Doktoru kandırmasını istemiş! ChatGPT'yi dinledi, hayatını kaybetti

Dava dilekçesine göre Bowen Wan, epilepsi ilaçlarının kendisinde beyin sisi oluşturduğunu ve iş görüşmelerinde başarılı olmasını engellediğini düşünüyordu. İşini kaybettikten sonra ABD'deki oturum başvurusuyla ilgili endişeler de yaşayan Wan, çözüm arayışıyla ChatGPT'ye danıştı.

Ailesinin iddiasına göre sohbet robotu, genç kadına kullandığı ilacın dozunu yaklaşık bir ay içinde 400 miligramdan sıfıra indirmesini önerdi. İddiaya göre ChatGPT, bu değişikliği doktoruna önceden söylememesini de tavsiye etti.

DOKTORU KANDIRMASINI İSTEMİŞ

Wan'ın doktoru Nicholas Poolos'un, talep ettiği dozda ilaç yazmayı kabul etmemesinin ardından genç kadının ChatGPT'ye ilaçları kendi başına azaltıp bunu doktoruna söylemeyip söyleyemeyeceğini sorduğu belirtildi. Dava dilekçesinde, sohbet robotunun bu soruya "İlacı azaltma planından bahsetme" dediği belirtildi.

Dava dosyasında, Wan'ın sağlık durumundaki kötüleşmeyle ilgili endişelerini ChatGPT'ye 100'den fazla kez dile getirdiği belirtildi. Genç kadının kafa karışıklığı ve unutkanlık gibi sorunlarından söz ettiği, ancak sohbet robotunun endişelenmesine gerek olmadığını söylediği iddia edildi.

Wan, 11 Şubat'ta gönderdiği son mesajında başındaki ağrıdan bahsetti. ChatGPT'nin bu ağrının tehlikeli olmadığını ve iyileşme sürecinin bir parçası olduğunu söylediği öne sürüldü. Üç gün sonra ise genç kadın, Seattle'daki evinde bir arkadaşı tarafından ölü bulundu.

OpenAI sözcüsü Drew Pusateri, New York Times'a yaptığı açıklamada Wan'ın ölümünün son derece üzücü olduğunu belirtti. Pusateri, olayda artık kullanılmayan eski bir sohbet robotu sürümü olan GPT-4o'nun yer aldığını söyledi.