Anthropic Kurucusundan Yapay Zeka için'Acil Kapatma' Önerisi

ABD'li yapay zeka şirketi Anthropic'in kurucu ortaklarından Jack Clark, yapay zeka sistemlerinin tehlikeli hale gelmesi durumunda devre dışı bırakılmasına yarayacak bir “acil kapatma düğmesinin” üçüncü tarafların kontrolünde olmasının zorunlu duruma gelebileceğini ileri sürdü.

Yapay Zeka için Acil Kapatma Düğmesi

Clark, yapay zeka konusunda son zamanlarda gündeme gelen tartışmalara dair BBC'ye röportaj verdi. Yapay zeka yazılımının çok tehlikeli hale dönüşmesi durumunda tümüyle devre dışı bırakılabilmesini sağlayacak bir yöntemin, toplumun ileride bu alanda kurallar koymak isteyebileceği konular arasında yer aldığını bildiren Clark, “acil kapatma düğmesi” gereklilikleri ve denetiminin daha kapsamlı yapay zeka politikalarının bir parçası olması gerektiğini ifade etti.

Anthropic dahil birçok şirketin çeşitli kapatma düğmesi yöntemlerinin bulunduğunu kaydeden Clark, bu konuda uygulanacak kuralların ele alınması gerektiğini aktardı.

“Muazzam Riskler Alarak Kumar Oynuyoruz”

BBC tarafından yöneltilen“Şirketlerin mutlaka bir acil kapatma düğmesi bulundurmasını zorunlu kılmalı mısınız? Bu acil kapatma düğmesi üçüncü bir tarafın mı kontrolü altında olmalı?” sorusuna Clark, “Bence bu, toplumun bilmek isteyeceği ve nihayetinde bu konuda kurallar koymak isteyebileceği türden bir konu.” cevabını verdi.

Yapay zekanın tüm insanlığı yok etme olasılığına yönelik soruyu da cevaplayan Clark, “Bu istatistiklerin bir işe yarayacağını düşünmüyorum ancak yapay zekanın tamamen kontrolsüz bir endüstri olması kötü bir fikir.” sözlerini kullandı.

Clark, “Muazzam riskler alarak kumar oynuyoruz. Ve asıl mesele şu ki bu sektörün gidişatını değiştirmeliyiz.” değerlendirmesine yer verdi.

Anthropic'ten İstifa Eden Araştırmacı da Uyardı

OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak görev alan Jacob Coxon, iki şirketin yapay zeka konusunda gerektiği miktarda sorumlu davranmadığını ileri sürerek Anthropic'ten ayrılmıştı.

Coxon, şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde bulunduğunu ve bu sistemlerin gelecekte “her şeyi hackleyebilecek” insanüstü sistemlere dönüşebileceğini ifade etmişti. Coxon bununla birlikte bazı sektör çalışanlarının yapay zeka sistemlerinin 10 yıl içinde “insanlığı öldürebileceğine” ciddi biçimde inandığını ileri sürmüştü.