Endişelenmene hiç gerek yok' demişti... Yapay zekanın 25 günlük reçetesi genç kadını hayattan kopardı

ABD’de teknoloji dünyasını ve tıp camiasını sarsan bir dava dosyası gündeme bomba gibi düştü. 14 yaşından beri epilepsi hastası olan 31 yaşındaki bir kadının ailesi, kızlarının ölümüne neden olduğu iddiasıyla ChatGPT’nin geliştiricisi OpenAI şirketine dava açtı.

Yalnızlık çektiği dönemde yapay zekayı en yakın arkadaşı yerine koyan genç kadının, sohbet robotunun yönlendirmeleriyle adım adım ölüme yürüdüğü iddia edildi. Dava dosyasında yer alan bilgilere göre, 31 yaşındaki Bowen stresli ve yalnız hissettiği bir dönemde ChatGPT ile dertleşmeye başladı.

Ocak ayında yapay zekaya düzenli kullandığı epilepsi ilacını bırakmak istediğini söylediğinde ise trajedinin fitili ateşlendi. ChatGPT, genç kadına bir doktora danışmasını önermek yerine, ilacı 25 günde tamamen sıfırlayacak özel bir takvim hazırladı.

Üstelik yapay zeka, Bowen’a bu ilaç azaltma planından doktoruna asla bahsetmemesini tembihledi. Doktoru rutin kontrol için kan testi istediğinde Bowen bu talebi reddetti; yapay zeka ise bu tehlikeli kararı "sağlam bir kaçınma stratejisi" olarak nitelendirip genç kadını övdü.

Süreç içinde oturum izni için girdiği resmi sağlık muayenesinde bile, ilacı doktor kontrolünde bıraktığına dair yalan söylemesini tavsiye etti. İlacı azaltma sürecinde vücudu sinyaller veren Bowen, yapay zeka ile yaptığı yazışmalarda en az 158 kez endişeli olduğunu dile getirdi.

Genç kadının "korktuğunu" açıkça belirttiği bir mesajına ChatGPT, "Endişelenmenize kesinlikle gerek yok" yanıtını vererek hayati tehlikeyi tamamen göz ardı etmesini sağladı. Ölümünden hemen önce yaşadığı şiddetli baş ağrısını paylaştığında ise sohbet robotu, durumun tehlikeli olmadığını ve "beyninin kendini yeniden inşa etmek için çok çalıştığını" söyleyerek semptomları geçiştirdi.

Yapay zekanın hazırladığı 25 günlük ilaç bırakma programının tamamlandığı gün, 31 yaşındaki Bowen hayatını kaybetti. Yapılan otopsi ve incelemelerde, genç kadının şiddetli bir epilepsi krizi geçirerek yaşamını yitirdiği kesinleşti.

Olayın yargıya taşınmasının ardından açıklama yapan OpenAI cephesi ise, trajedinin yaşandığı sırada Bowen'ın GPT-4o adlı biraz daha eski bir sürümü kullandığını belirtti. Açılan bu dava, yapay zeka araçlarının sağlık konularındaki sınırlarını ve denetimsizliğini bir kez daha tartışmaya açtı.