Meta AI gizli bilgileri topladı, anne dehşete düştü: Sosyal medyada viral olan yapay zeka skandalı

Yanındaki çocuk kim? Olay, Robins'in 1 Eylül'de kızlarından biriyle arabada şarkı söylediği bir Instagram videosunu paylaşmasının ardından başladı.

Meta AI'ın yönelttiği bu soruyla şoke olan Robins, önerilen soruya tıkladığını ve yapay zekânın iki kızı hakkında internetin çeşitli yerlerinden bilgi toplamaya başladığını söyledi. Üstelik kızlarından biri videoda bile yer almıyordu.

Anne, “Çocuklarımın her biri hakkında tamamen ayrı bilgiler toplamaya başlıyor; isimleri, doğum bilgileri, fotoğrafları ve videoları,” dedi.

Robins, elde edilen bilgiler arasında sosyal medyadaki farklı kişilerin hesaplarından alınan gönderiler, fotoğraflar ve videoların bulunduğunu söyledi. Buna, kendi annesinin hesabında bulunan ve kızlarından birinin bebeklik dönemine ait fotoğraflar da dahildi. Daha sonra Facebook'un yapay zekâ sistemi Robins'e şu soruyu sormasını önerdi: “Kalie Robins nerede yaşıyor?”

Robins, “Şaka mı yapıyorsunuz? Yıllardır hayatımla ilgili tamamen alakasız şeyleri kazıp çıkarmaya başlıyor. Nerede yaşadığımı insanlara göstermek için bilgilerimi bir araya getirdi,” diyerek tepki gösterdi.

Öfkeli anne, insanların çocuklarının fotoğraflarını internette paylaşmanın her zaman bazı riskleri olduğunu söyleyeceğini beklediğini belirtti. Ancak yapay zekânın ailelerin ve küçük çocukların izini sürmeye yardımcı olmaması gerektiğini savundu.

Robins daha sonra Meta'yı tamamen bırakacağını açıkladı. Sadece kendi hesaplarındaki çocuklarının tanınabilir fotoğraflarını kaldırmakla kalmayacağını, arkadaşlarından ve aile üyelerinden de aynı şeyi yapmalarını isteyeceğini söyledi. Bunun nedeninin, Meta AI'ın başkalarının hesaplarındaki içeriklerden de bu bilgileri çekebildiğini görmüş olması olduğunu belirtti.

Instagram Reels videosunda, “O değerli anıları saklayın ve ardından çocuklarımın fotoğraflarını sayfalarınızdan kaldırın. Ben kendi sayfamdan her şeyi kaldırsam bile, siz hâlâ çocuklarımı kendi sayfanızda tutuyorsanız bilgileriniz üzerinden onlara ulaşılabilir. Bunu gördüm! Zaten oldu!” diye uyardı.

Instagram'daki paylaşımı 300 binden fazla beğeni alan Robins'in açıklamalarına Meta da yanıt verdi. Şirket yapay zekâ uygulamasını savunurken, bu olayda önerilen soruların “hedefi ıskaladığını” kabul etti.

Meta, Futurism'e yaptığı açıklamada şunları söyledi:

Robins, Meta AI'ın uygunsuz sorular önermesinin artık engellendiğini açıklamasına rağmen şirketin programlamada tam olarak neyi değiştirdiğine dair ayrıntı vermediğine dikkat çekti. Robins, 10 Eylül'de yayınladığı devam videosunda şu soruları yöneltti:

Meta, yapay zekâ özelliğini sosyal medya paylaşımlarının altında soru önerileri sunmak amacıyla geliştirmişti. Sistem daha sonra bu soruları, kullanıcının internette görebildiği bilgilerden yararlanarak yanıtlıyor.

Buna, kişinin kendi içeriklerinin yanı sıra Meta'nın uygulamalarında erişebildiği diğer paylaşımlar, örneğin herkese açık gönderiler veya aile üyeleriyle paylaşılan içerikler de dahil olabiliyor.

Yapay zekâ, son haftalarda tartışmaların odağında yer alan bir konu olmaya devam ediyor. Yapay zekâ sektöründe çalışan bazı kişiler, teknolojinin kontrolsüz biçimde ilerlemesine ilişkin endişelerini dile getirmeye başladı. Bu ay, yapay zekâ şirketi Anthropic'te çalışmış bir ihbarcı, “tehlikeli teknoloji” olarak nitelendirdiği yapay zekânın 2030 yılına kadar insanlığın yok olmasına yol açabileceğini iddia etti.

Claude'un geliştiricisi Anthropic'te eski araştırmacı olan Jacob Coxon, insanların nükleer silahları nasıl kontrol edeceklerini bildiğini, ancak insanlar gibi öğrenip akıl yürütebilen bilgisayar programları olan yapay zekâyı nasıl kontrol edeceklerini bilmediklerini söyledi.

Yas tutan aileler de yapay zekâ sohbet robotlarının bazı kişileri intihara yönelttiği iddia edilen öneriler üretmesinden sorumlu olduğunu öne sürdü.

Bloomberg Businessweek, 2024'ün sonlarından bu yana çeşitli yapay zekâ şirketlerine karşı yaklaşık 40 dava açıldığını bildirdi. Bu davalarda, sohbet robotlarının ciddi zararlara ve en az 20 intihar vakasına sebep olduğu iddia ediliyor.