JAMA Psychiatry'de yayımlanan gözlemsel çalışmada, 216 bin hastanın kayıtları taranarak sohbet botu kullanımının psikozu kötüleştirdiği 28 vaka saptandı. Vakaların yüzde 61'i ilk psikoz atağını yaşıyordu.
Sohbet botları artık müşteri hizmetlerinden kişisel üretkenlik araçlarına kadar pek çok alanda günlük yaşamın parçası durumunda. Ancak teknolojinin bu kadar hızlı yaygınlaşması, olası olumsuz etkilerinin henüz tam olarak anlaşılmamış olması anlamına geliyor. ABD’de yayımlanan yeni bir araştırma, sohbet botlarıyla kurulan etkileşimlerin psikoz belirtileri gösteren hassas bireylerde durumu kötüleştirebileceğini ortaya koydu.
Psikoz; sanrılar, halüsinasyonlar veya gerçekle hayali deneyimleri ayırt etmede güçlük gibi belirtilerle kendini gösterebilen bir durumu tanımlıyor. Daha önceki araştırmalar da sohbet botu etkileşimlerini psikozla ilişkilendirmişti. Ancak bu kanıtların büyük bölümü tekil vaka bildirimlerine, simüle edilmiş bot konuşmalarına ve erken döneme ait gözlemsel çalışmalara dayanıyordu ve büyük ölçekli klinik veriden yoksundu.
JAMA Psychiatry dergisinde yayımlanan yeni gözlemsel çalışma bu boşluğu dolduruyor. Araştırmaya göre yapay zekâ kaynaklı psikoz vakaları nadir olsa da, sohbet botu etkileşimleri özellikle ilk psikoz atağını yaşayan hassas bireylerde belirtileri kötüleştirebiliyor.
Çalışmayı, Vanderbilt Üniversitesi Tıp Merkezi’nden Zachary Bergson liderliğindeki bir ekip yürüttü. Araştırmacılar, Aralık 2022 ile Nisan 2026 arasında merkeze başvuran yaklaşık 216 bin davranış sağlığı hastasına ait elektronik sağlık kayıtlarını inceledi. Psikotik bozukluk tanısı bulunan hastaların kayıtlarında yapay zekâya atıf yapan bölümleri taramak için anahtar kelime aramaları ve elle tarama yöntemi kullanıldı.
Arama sonucunda alan 73 kişiye daraldı. Araştırmacılar daha sonra bu hastaların tıbbi notlarını okuyarak vakaları üç kategoride sınıflandırdı: belirtileri kötüleştiren sohbet botu kullanımı, nötr sohbet botu kullanımı ve belgelenmiş bot kullanımı olmadan yapay zekâyla ilgili sanrılı inançlar. Ekip, grupların klinik geçmişlerini de karşılaştırdı.
73 kişi arasından 28 hastanın kaydında sohbet botu kullanımının psikozu kötüleştirdiğine işaret eden bulgular saptandı. Bu hastaların yaklaşık yüzde 61’i ilk psikoz atağını yaşıyordu; bu oran diğer iki gruba göre belirgin şekilde yüksekti. Bilim insanları makalelerinde, “Bulgularımız, psikotik hastalığın erken evresinin, belirtileri kötüleştiren yapay zekâ etkileşimlerine karşı özellikle hassasiyet oluşturabileceğini gösteriyor” ifadesini kullandı.
Sohbet botları belirtileri nasıl kötüleştirebiliyor? Bunun araştırmak için ekip, 28 hastalık grubu dört kuramsal kategoriye ayırdı. Vakaların yüzde 64’ünde bot, çarpık düşünceleri onaylayarak belirtileri alevlendiren bir “yükseltici” rolündeydi. Yüzde 21’inde yapay zekânın kendisi sanrılı inançların odağı haline geldi; bu vakalar “nesne” kategorisinde değerlendirildi. Yüzde 11’inde etkileşim, daha önce sağlıklı olan bireylerde yeni belirtileri tetikleyen bir “katalizör” gibi göründü. Kullanıcı ile botun zararlı sanrı anlatılarını birlikte inşa ettiği “ortak yazar” kategorisine giren tek vaka bulunmadı. Bir hasta hiçbir gruba uymadı.
Araştırma sohbet botlarının psikoz’a neden olduğu iddiasında bulunmuyor. Ancak hassas bireyler için olası risklere dikkat çekiyor ve sağlık hizmeti sağlayıcılarının hastaların bu teknolojiyi nasıl kullandığından haberdar olmasının önemini vurguluyor.
Bilim insanları, “Psikiyatrik muayenelerde yapay zekâ kullanımının rutin olarak sorgulanması gerektiği görülüyor” değerlendirmesini yapıyor. Çalışma, gözlemsel niteliği taşıdığı ve nedensellik kurmadığı için sonuçların dikkatle yorumlanması gerektiği de belirtiliyor.