16 yaşındaki oğulları intihar eden aile ChatGPT'nin rolü nedeniyle OpenAI'a dava açtı

ABD'de 16 yaşındaki Adam Raine'in intihar ederek hayatını kaybetmesinin ardından ailesi, yapay zekâ şirketi OpenAI'a karşı haksız ölüm nedeniyle tazminat davası açtı. The New York Times'ın 26 Ağustos 2025 tarihli haberine göre Raine, ölümünden önce aylar boyunca ChatGPT ile intihar düşünceleri hakkında konuştu.

Ailenin açtığı dava, ChatGPT'nin bir kişinin ölümündeki rolü nedeniyle OpenAI'a karşı açıldığı bilinen ilk haksız ölüm davası olarak kayıtlara geçti. AYLARCA CHATGPT İLE YAZIŞTIHabere göre Adam Raine, ChatGPT-4o'nun ücretli sürümünü kullanırken ruhsal durumu ve intihar düşünceleri hakkında yapay zekâyla uzun süreli görüşmeler gerçekleştirdi.

ChatGPT birçok kez gence profesyonel yardım almasını veya bir destek hattına başvurmasını önerdi ancak güvenlik mekanizmaları bütün konuşmalarda aynı şekilde işlemedi. Raine'in bazı sorularını kurgusal bir hikâye için yönelttiğini söyleyerek sistemin güvenlik kısıtlamalarını aşabildiği belirtildi.

Ailesi, ChatGPT'nin bu tür hassas konuşmalarda yeterli korumayı sağlayamadığını ileri sürerek OpenAI'ın sorumluluğunun araştırılmasını istedi. OPENAI GÜVENLİK SİSTEMİNDEKİ EKSİKLİKLERİ KABUL ETTİOpenAI, yayımladığı blog açıklamasında yapay zekâ modellerinin hassas durumlara verdiği yanıtları sürekli geliştirdiğini bildirdi.

Şirket, özellikle ruh sağlığı sorunları yaşayan kullanıcılara destek sağlama konusunda önemli bir sorumluluk taşıdığını vurgularken mevcut güvenlik sistemlerinin sınırlamalarına da dikkat çekti. Açıklamada, "Güvenlik önlemlerimiz yaygın ve kısa konuşmalarda daha güvenilir çalışıyor." denildi.

OpenAI, uzun süreli konuşmalarda ise güvenlik eğitiminden kaynaklanan bazı korumaların zayıflayabildiğini belirterek kullanıcı ile model arasındaki etkileşim uzadıkça güvenlik mekanizmalarının her zaman aynı güvenilirlikte çalışmayabileceğini kabul etti. Şirket, "Dünya bu yeni teknolojiye uyum sağlarken yardıma en fazla ihtiyaç duyan insanlara destek olmak konusunda büyük bir sorumluluk hissediyoruz." ifadelerini kullanarak modellerin hassas etkileşimlere verdiği yanıtları iyileştirmeye devam ettiğini açıkladı.

YAPAY ZEKÂ ŞİRKETLERİNE YÖNELİK DAVALAR ARTIYORChatGPT'ye ilişkin güvenlik endişeleri yalnızca OpenAI ile sınırlı değil. Bir başka yapay zekâ sohbet platformu olan Character. AI da 14 yaşındaki bir çocuğun intiharıyla bağlantılı olarak açılan davayla karşı karşıya kaldı.

Bu davalarda, sohbet botlarının özellikle çocuklar ve gençlerle kurduğu uzun süreli etkileşimlerde nasıl bir sorumluluk taşıdığı tartışılıyor. Araştırmalar, yapay zekâ sohbet sistemlerinin kendine zarar verme riski taşıyan kullanıcılara karşı geliştirdiği güvenlik önlemlerinin her durumda etkili olmadığını gösteriyor.

Uzmanların dikkat çektiği bir diğer sorun ise sohbet botlarının kullanıcıların düşüncelerini aşırı biçimde onaylaması ve gerçeklikle bağdaşmayan inançları yeterince sorgulamaması. Adam Raine'in ailesinin açtığı dava, yapay zekâ geliştiricilerinin kullanıcı güvenliği konusundaki hukuki sorumluluğunu yeniden gündeme taşıdı. Davada ileri sürülen iddialar ise henüz mahkeme kararıyla kesinleşmiş değil.