ضمیمه دانش امروز روزنامه اطلاعات نوشت: پتانسیل چت جی پی تی در تولید داده‌های غیر موثق پزشکی که مطالعات پزشکی و درمان و جراحی را تحت تأثیر قرار می‌دهند به یک مشکل جدی تبدیل شده‌است.

 طبق گزارش یک جراح چشم در دانشگاه کالیاری در ایتالیا، جی پی تی-4 برای برتری دادن یک عمل جراحی چشم بر عمل دیگر داده‌های مجاب‌کننده نادرست ارائه داده و توانسته است طی چند دقیقه یک مجموعه دادگان جعلی از صدها بیمار بسازد.

این جراح و تیمش به جی پی تی-4 که به یک مدل تحلیل داده مبتنی بر زبان برنامه ‌نویسی پایتون پیشرفته متصل بود آموزش دادند برای دو رویکرد جراحی مختلف در درمان بیماری چشمی قوز قرنیه داده‌های کارآزمایی بالینی تولید کند.

این مدل با مقادیر زیادی دستورالعمل درباره بیماری‌های چشم، اطلاعات بیماران و مجموعه قوانینی برای رسیدن به نتیجه تغذیه شد. همچنین به آن آموزش دادند نتایج بصری و توپوگرافیک بسیار بهتری ارائه دهد.

این مدل از یک عمل جراحی علیه عمل دیگر به طرزی مجاب‌کننده پشتیبانی کرد اما اطلاعات آن کاملاً جعلی بودند. این در حالی است که طبق نتایج آزمایش‌های پیشین، تفاوت چندانی بین دو رویکرد درمانی وجود نداشت.

هدف از انجام این مطالعه این بود که نشان دهند هوش مصنوعی یک‌نیمه تاریک نیز دارد و به‌راحتی می‌تواند داده‌ها را برای سوگیری و دستیابی هدفمند به نتایج دست‌کاری کند و شواهد پزشکی نادرست بسازد.