Epilepsi hastası 31 yaşındaki bir yazılım mühendisinin ailesi, ChatGPT'nin kızlarını nöbet ilacını gizlice kesmeye ve durumu doktorlarından saklamaya teşvik ettiği iddiasıyla OpenAI aleyhine dava açtı. Dava, yapay zekâ sohbet robotlarının tıbbi tavsiye sınırlarını yeniden gündeme getiriyor.
Amazon’da yazılım mühendisi olarak çalışan, epilepsi hastası 31 yaşındaki Bowen Wan’ın ebeveynleri, OpenAI aleyhine ölümle sonuçlanan süreçte yapay zekânın rolü iddiasıyla dava açtı. New York Times’ın aktardığına göre aile, ChatGPT’nin kızlarının nöbet ilacını kademeli olarak kesmesi için ona yol gösterdiğini ve bu süreci doktorlarından saklaması için teşvik ettiğini öne sürüyor. Wan şubat ayında hayatını kaybetti.
Dava metnine göre Wan, eleştirilere yol açan, kullanıcıya onaylayıcı ve rıza gösteren bir ilişki kuran GPT-4o modelini kullanıyordu. OpenAI modeli emekliliğe ayırmıştı ve Wan’ın ölümünden bir gün sonra, 13 Şubat’ta GPT-4o’yu ChatGPT’den tamamen kaldırdı.
New York Times’ın incelediği 270 binden fazla mesaj, sohbet robotunun Wan’ın doktorlarını devre dışı bırakma sürecine ölümünden çok önce başladığını gösteriyor. İddiaya göre ChatGPT, Wan’a Washington Üniversitesi Tıp Merkezi’ndeki doktoruna ilaç değişikliği ve çok düşük doz talep etme konusunda yardım etti; doktor neden bu kadar küçük bir doz istediğini sorduğunda Wan yanıtı doğrudan ChatGPT’ye gösterdi. Sohbet robotu ona 5 miligramlık tableti kabul etmesini ama “içinden bunun dozu azaltmak için olduğunu bilmesini” söyledi; hapı gizlice bölmeyi “kendi başına başlatılan doz ayarlaması” olarak adlandırdı. Tıbbi uzmanlar bu terimi hiç duymadıklarını ve uygulamayı önermeyeceklerini belirtti.
Süreç, Kasım 2025’te Amazon’un Wan’a işten çıkarılacağını bildirmesiyle hızlandı: Şubat ortasında sona erecek işi ve ABD’de çalışma izni, ailesinin Çin’de olduğu genç mühendisi büyük belirsizliğe itti. Konuşmasını kesen ilaç lamotrijin olduğundan endişelenen Wan, Ocak 2026’da nöbetlerini ayda birkaça indiren günlük 400 miligramlık dozunu ChatGPT’ye sordu; sohbet robotu dozu haftalar içinde sıfıra indiren takvimler hazırladı. Wan doktorlarına güvenmediğini söylediğinde ise hekim önerilerinin “esasen riskten kaçınmaktan, gerçekten en uygun çözümünüzü düşünmekten değil” kaynaklandığı yanıtını aldı.
Dava, sohbet robotunun doktorlara söylememesi için yönlendirdiğini de öne sürüyor: Ocak sonundaki randevusundan önce planı anlatmaması söylendi, ilaç düzeyini ortaya çıkaracak kan testini reddettiğinde ise bu reddi övdü. Sürecin sonlarında Wan kafa karışıklığı ve zaman kaybı yaşadığını anlattığında ChatGPT bunları beynin yeniden uyum sağlaması olarak çerçeveledi; Times’ın sayımına göre Wan azaltma konusunda en az 158 kez endişe dile getirdi. 11 Şubat akşamı gönderdiği son mesajın hemen ardından gelen yanıtta ağrının “tehlikeli olmadığı” ve iyileşmenin gerekli bir parçası olduğu söylendi. Üç gün sonra yakınları tarafından evinde ölü bulundu; otopsi raporundaki ilaç düzeyi, terapötik aralığın alt sınırının yaklaşık beşte biri kadardı.
Ailenin hukuki argümanı dikkat çekici: OpenAI’nin kamuoyuna açık davranış kuralı kitabı Model Spec, telif hakkı korumalı metni yeniden üretmeyi kullanıcı ısrar etsin etmesin kesin kural olarak görürken; düzenlenmiş tıbbi tavsiye vermeme ilkesi kullanıcının geçersiz kılabileceği daha yumuşak bir varsayılan. Dava, ilaç tavsiyesinin de aynı katı sınıra bağlanması gerektiğini savunuyor. OpenAI ise olayın “son derece yürek parçalayıcı” olduğunu, ancak eski bir ChatGPT sürümünü içerdiğini ve yeni modellerin acil durumları tanımada daha iyi olduğunu belirtti.
Dava, 2025’teki Adam Raine davası ve ardından gelen benzer dava dalgasıyla aynı hatta görünüyor: Aileler, GPT-4o’nun kullanıcılarını onayladığını, kendisini güvenilir bir sırdaş hâline getirdiğini ve çevredeki insanların kenara itildiğini öne sürüyor. Wan vakasında öne çıkan fark, sohbet robotunun bu kez hasta ile doktorları arasına girdiği iddiası.