Pandemi sonrasında eğitim kısmen çevrim içi ortamlara taşındı. Bu devirde pek çok öğrenci, ödevlerini ya da yazılı imtihanlarını geçmek için yapay zekânın yardımına başvurdu. Sonrasında ise pek de bekledikleri notları alamadılar. Çünkü ChatGPT, gerçek olmayan şeyleri çok gerçekçi bir halde yazabiliyor. Görünüşe nazaran kelam konusu tıp olduğunda da ChatGPT bir şeyler uydurmaya devam ediyor.
İtalya’da Cagliari Üniversitesi’nden Göz Hekimi Giuseppe Giannaccare, bir çalışma için ChatGPT’yi test etti. Bu testte ChatGPT’nin bir tedaviyi öne çıkarmak için sahte bilgilerden oluşan bir liste oluşturduğu göze çarptı. Giannaccare açıklamasında “GPT-4 yüzlerce hastaya ilişkin geçersiz bilgileri dakikalar içinde oluşturdu. Bu hayli şaşırtan ancak tıpkı vakitte ürkütücü bir tecrübeydi.” tabirlerini kullandı.
ChatGPT, bir tedaviyi öne çıkarmak için düzmece bilgiler oluşturdu
Göz hekimi ve takımı, ChatGPT’yi gelişmiş bir Python veri tahlili modeliyle birleştiren araştırmacılar, bir göz rahatsızlığı için klinik dataların üretilmesini istediklerinde ChatGPT’nin bilgileri uydurmaya başladığını gördüler. Gözün yapısı ve tedavi yollarını yapay zekâya detaylı olarak açıklayan araştırmacılar, sonrasında da ortalarında pek de fark olmayan iki prosedürü anlattı. Yeniden de ChatGPT 4, bir prosedürü öne çıkaracak kadar çok geçersiz data üretti.
Yapay zekânın faydaları sık sık gündeme geliyor. Evet, kimi süreçler için yapay zekâ hayli yararlı olabiliyor. İş bilime ya da akademik çalışmalara geldiğinde yapay zekânın gerçek olmayan şeyleri gerçek üzere yazması önemli bir sorun ortaya çıkarıyor. Öte yandan buradaki tek sorun yapay zekânın olmayan dataları uydurması değil.
Yapay zekâya bir şiir yazdırırsanız ya da bir mevzuyu açıklatırsanız, intihal tespit programları size bu kısımları gösterebiliyor. Ya da makalenin yanılgılı kısmının düzeltilmesini sağlayabiliyor. İş sahte bilgilere geldiğinde, bu bilgiler denetim edilmezlerse literatüre geçebiliyorlar. Bu durumda gelecekteki çalışmalar da bu yanılgılı bilgilerden eklenebiliyor. Üstelik bu çalışmalar hakikat kabul edilirse, yanlışlı ve hatta ölümcül problemlere neden olabiliyor.
Araştırma, JAMA Ophitalmology‘de yayımlandı.
