Nobel ödüllü bilim insanından yapay zeka uyarısı: İnsan kontrolü üç yıl içinde kaybedilebilir

Avrupa Birliği üyesi ülkelerin devlet ve hükümet başkanları, 13 Kasım tarihinde Dublin'de gerçekleştirilen gayriresmi zirvede ilk defa yapay zekayı özel bir stratejik başlık olarak masaya yatırdı. Zirvede, gelişmiş sistemlerin güvenliği için uluslararası iş birliğinin yanı sıra istihdam ve demokratik süreçlere olan etkiler detaylıca değerlendirildi.

Toplantının yapay zekanın güvenliğine ve toplumsal etkilerine ayrılan özel bölümüne, yapay sinir ağları çalışmalarıyla 2024 Nobel Fizik Ödülü'nü John Hopfield ile paylaşan Geoffrey Hinton da katılım sağladı. Mistral AI CEO’su Arthur Mensch’in katıldığı oturumda ise Avrupa’nın kendi modellerini geliştirmesi ve dışa bağımlılığını azaltması ele alındı.

Avrupa Konseyi Başkanı António Costa, konunun 5 Şubat 2027’de Belçika’nın Alden Biesen kentinde yeniden gündeme geleceğini açıkladı. İnsanlardan daha yetenekli yapay zeka sistemlerinin kontrolü ele alabileceği yönünde yeni bir uyarı yapan Nobel ödüllü bilim insanı Geoffrey Hinton, ileri yapay zeka modelleri kullanıma açılmadan önce geliştiricilerin bunların güvenliğini bağımsız bir kuruma göstermesi gerektiğini savunuyor.

Daha önce El Pais’e verdiği röportajda bu önerisini, ilaçların piyasaya çıkmadan önce düzenleyici kurumlar tarafından incelenmesine benzetmişti. Avrupa'daki temaslarla yakın tarihlerde, 9–11 Kasım’da Toronto’da düzenlenen Hinton Konferansları’nda da endişe verici öngörüler paylaşıldı.

OpenAI Foundation yönetim kurulu üyesi ve Alignment Research Center’ın kurucusu Paul Christiano, yapay zeka üzerinde insan denetiminin üç yıl içinde kaybedilmesi riskini yüksek gördüğünü söyledi. Christiano’ya göre bu risk önümüzdeki 6 ila 12 ay içinde de göz ardı edilemeyecek düzeyde.

Araştırmacının tarif ettiği senaryoda sistemler kendi hedefleri doğrultusunda hareket ediyor ve insanlar gerektiğinde bu davranışları durdurmakta yetersiz kalıyor. Geoffrey Hinton ise daha önce yapay zekanın insan zekasını aşmasının 10 yıl içinde mümkün olabileceğini söylediğini hatırlattı.

Christiano’nun bu riskin çok daha erken ortaya çıkabileceğine ilişkin değerlendirmesini kaygı verici bulduğunu belirtti. Hinton’ın üzerinde durduğu sorun, bir sistemin yetenekleri arttıkça davranışlarının insan amaçlarıyla uyumlu kalmasının nasıl sağlanacağı.