Geoffrey Hinton: Yapay zekâda Çernobil krizi riski

Yapay zekânın öncü isimlerinden Nobel ödüllü bilgisayar bilimcisi Geoffrey Hinton, teknolojinin kontrolsüz gelişmesinin ciddi sonuçlar doğurabileceğini söyledi. Hinton, insanlığın yapay zekâyı hiç geliştirmemiş olmasının daha iyi bir sonuç yaratmış olabileceğini belirtti.

Açıklamalarında güvenlik önlemlerine dikkat çeken Hinton, giderek güçlenen modellerin toplum üzerindeki etkilerinin değerlendirilmesi gerektiğini vurguladı. Teknolojinin geleceğine ilişkin kaygılarını paylaşan bilim insanı, bağımsız denetim ve uluslararası iş birliği çağrısında bulundu.

Elektrik ve finans altyapısı için kriz öngörüsüHinton, 2026 yılının sonlarında veya 2027’de yapay zekâyla bağlantılı büyük çaplı bir olay yaşanabileceği uyarısını yaptı. Olası senaryolar arasında elektrik üretim sistemlerini hedef alan saldırılar ve finansal altyapıda uzun süreli kesintiler yer aldı.

Bilim insanı, finans sisteminin bir hafta boyunca devre dışı kalmasını da olası sonuçlara örnek gösterdi. Bu değerlendirme, gerçekleşmesi kesinleşmiş bir olaya ilişkin duyuru değil, Hinton’ın teknolojinin taşıdığı risklere yönelik öngörüsü niteliğinde.

Çernobil benzetmesiyle büyük çaplı aksamalara dikkat çektiHinton’ın kullandığı “Çernobil” benzetmesi, nükleer bir kaza beklentisini ifade etmiyor. Benzetmeyle, yapay zekâ destekli saldırıların kritik altyapıda oluşturabileceği geniş çaplı aksamalara dikkat çekiliyor.

Elektrik şebekesinde büyük bir kesinti veya finansal işlemlerin durması, bu kapsamda verdiği örnekler arasında bulunuyor. Hinton, böylesi bir olayın karar vericilerin yapay zekâ güvenliğine daha fazla önem vermesine yol açabileceğini düşünüyor.

Kitlesel işsizlik ve gelir eşitsizliği riskiHinton’ın uyarıları altyapı güvenliğiyle sınırlı kalmadı. Bilim insanı, yapay zekânın iş gücü piyasasında kitlesel işsizliğe neden olabileceğini ve gelir eşitsizliğini derinleştirebileceğini belirtti.

Önümüzdeki on yılın, insanlığın bu teknolojinin risklerini yönetme kapasitesini ortaya koyacağını ifade etti. Risklerin kontrol edilememesi durumunda ekonomik uçurumun büyüyebileceğini ve toplumsal bölünmelerin derinleşebileceğini söyledi.

Böylece değerlendirmesinde, teknolojik gelişmelerin ekonomik ve sosyal sonuçlarını birlikte ele aldı. Modeller piyasaya çıkmadan bağımsız denetim çağrısıHinton, yapay zekâ modellerinin kullanıma sunulmadan önce bağımsız kuruluşlar tarafından değerlendirilmesini istedi.

İlaç sektöründeki denetim yaklaşımını örnek göstererek, güvenlik incelemelerinin ürünler piyasaya çıktıktan sonraya bırakılmaması gerektiğini savundu. Ayrıca ülkeler arasında iş birliğinin güçlendirilmesini ve bağlayıcı düzenlemelerin oluşturulmasını talep etti.

Hinton’ın önerisi, gelişmiş modellerin piyasaya sürülmesinden önce zorunlu testlerden geçirilmesini ve şirketlerin güvenlik değerlendirmelerinin bağımsız incelemeyle desteklenmesini kapsıyor.