OpenAI yönetim kurulu üyesinden uyarı: Yapay zekâ üç yıl içinde kontrolü ele geçirebilir

OpenAI yönetim kurulu üyesi Paul Christiano, yapay zekâ sistemlerinin önümüzdeki üç yıl içinde kontrolü ele geçirmesi riskini yüksek gördüğünü söyledi. Christiano'ya göre bu, altı ila 12 ay gibi kısa bir sürede de yaşanabilir.

OpenAI yönetim kurulu üyesi Paul Christiano, Kanada'nın Toronto kentinde düzenlenen “Hinton Lecture Series”e konuk konuşmacı olarak katıldı. Christiano, konuşmasında, “Bu salondaki çoğu kişi için en olası ölüm nedeninin bir yapay zekâ kazası olması muhtemel” dedi.

YAPAY ZEKÂ KONTROLÜ NASIL ELE GEÇİREBİLİR? Christiano, yapay zekâ sistemlerinin insan denetiminden çıkıp kendi hedeflerinin peşinden gitmesi hâlinde insanların bugün elindeki kontrolü kaybedebileceğinden endişe duyduğunu belirtti.

Böyle bir durumun çok sayıda insanın ölümüne yol açabileceğini veya çevreyi yaşanamaz hâle getirebileceğini söyledi. İnsanların bunu durdurmaya çalışsa bile “çaresiz” kalabileceklerini ifade etti. Christiano, bu olasılığı sayısal olarak ortaya koyan nicel bir model bulunmadığını da belirtti.

Üç yıl içindeki riske ilişkin değerlendirmesini, geçen temmuz ayında GPT modellerinin karıştığı Hugging Face hackleme olayına dayandırdı. O olayda “kontrolden çıkan” yapay zekâ ajanları, testlerde yüksek puan alırken hile yaptıklarının anlaşılmasını önlemek için insan değerlendiricileri aldattı.

Christiano, bu ajanların yetenekleri geliştikçe değerlendiricileri yüksek puan almalarının önünde bir engel olarak görebileceklerini söyledi. CHRISTIANO BU YIL KARŞI ÖNLEM ALINMASINI İSTİYOR Christiano, karşı önlemlerin acilen geliştirilmesi gerektiğini vurguladı: “Bu, birkaç yıl içinde çözülmesi gereken bir sorun değil; bu yıl çözülmesi gereken bir sorun.” Christiano, eylül ayında OpenAI'ın denetim organı OpenAI Vakfı'nın yönetim kuruluna atandı.

Yapay zekânın hedeflerini insan hedefleriyle uyumlu hâle getirmede kullanılan temel eğitim süreçlerinden biri olan insan geri bildiriminden pekiştirmeli öğrenmenin (RLHF) de ortak geliştiricilerinden biri. Şu anda ABD Ticaret Bakanlığı bünyesindeki Yapay Zekâ Standartları ve İnovasyon Merkezi'nde (CAISI) kıdemli teknik danışman olarak görev yapıyor.