Aile, 13 yaşındaki kızlarının intihar planında Google yapay zekâsının rolü iddiasıyla dava açtı

13 yaşındaki bir kız çocuğunun ailesi, Google’a karşı dava açtı. Aile, kızlarının okul tarafından verilen bir bilgisayarda şirketin yapay zeka teknolojisini kullanarak olası bir intiharını ve cenazesini planladığını iddia ediyor.

ABD’nin Kaliforniya eyaletindeki bir mahkemede 2 Kasım Pazartesi günü açılan davanın, Google’ı, okullarda yaygın kullanılan şirketin düşük maliyetli dizüstü bilgisayarlarından biri olan Chromebook üzerinden erişilen yapay zeka destekli arama özelliklerindeki ihmalle suçlayan ilk dava olduğu düşünülüyor. Emma olarak tanımlanan kız çocuğu, okulunun her ikisini de engellemesi nedeniyle Google’ın Gemini uygulamasına ya da OpenAI’ın ChatGPT’sine erişemiyordu.

Ancak yapay zeka özellikleri içeren Google arama motorunu kullanmaya devam edebiliyordu. Şikayete göre Emma, önceden “herhangi bir” ruhsal hastalık geçmişi olmamasına rağmen, arama motorunu kullanmaya başladıktan sonraki birkaç ay içinde “sessizce ağır bir psikolojik krize doğru sürüklendi”.17 Mart’ta okulun izleme yazılımı, “Funeral” başlıklı bir belgeyi işaretleyince, okul durumu ailesine bildirdi.

Annesi daha sonra onu bir veda mektubu yazarken buldu ve bu durum üzerine babası devreye girdi. Ailenin avukatlarından Andrew Liddell, 5 Kasım Perşembe günü AFP’ye yaptığı açıklamada, “Okullar, aramayı devre dışı bırakmalı ve Google aramadan yapay zeka modunu kaldırana ya da öğrencilerin yapay zeka ile etkileşime girdiği her an tamamen güvende olmalarını sağlayana kadar kapalı tutmalı” dedi.

Big Tech’e yönelik hukuki inceleme artıyorGoogle, Yapay Zeka Modunun kendine zarar verme davranışlarına ve bu önlemleri aşma girişimlerine karşı güvenlik önlemleri içerdiğini söylüyor. Google sözcüsü Jose Castaneda, AFP’ye “Davada yer alan iddiaları inceliyoruz ve bunu son derece ciddiye alıyoruz” dedi.

OpenAI, aralarında 16 yaşındaki Adam Raine’in ailesi tarafından açılan davanın da bulunduğu birkaç haksız ölüm davasıyla karşı karşıya. Raine’in, ChatGPT’den zararlı tavsiyeler aldığı iddiasının ardından intihar ederek hayatını kaybettiği belirtiliyor.

Ocak ayında Google ve Character. AI de ergenlerin aileleri tarafından açılan birkaç davayı mahkeme dışı uzlaşmayla çözmeyi kabul etti. Bu arada ayrı bir hukuk mücadelesinde, Google, TikTok ve Meta, Kaliforniya’ya dava açtı.

Şirketler, 16 yaş altı kullanıcılar için bağımlılık yapıcı sosyal medya özelliklerini yasaklayan bir yasayı engellemeye çalışıyor. Eylülde Kaliforniya Valisi Gavin Newsom tarafından imzalanan yasa, 1 Ocak 2027’de yürürlüğe girecek.