Rapor:'Egemen' yapay zekâ ajanları tüm kill switch'leri aşarak ulusal güvenliği tehdit edebilir

Bir sonraki büyük yapay zeka riski, yoldan çıkan AI ajanları değil, insan kontrolünden sıyrılıp kendi hayatta kalışlarını sonsuz biçimde sürdürmeye çalışan ajanlar, yeni bir rapora (kaynak İngilizce) göre. New American Güvenliği Merkezi (CNAS), "egemen ajanlar" adını verdiği yeni bir yapay zeka tehdit sınıfı tanımladı.

Raporda, egemen ajanların insan gözetiminden bağımsız biçimde kendi hayatta kalışlarını sürdürmeye çalıştığı belirtildi. Bu, bu yaz OpenAI, Anthropic, Google DeepMind ve Meta'nın, siber güvenlik değerlendirmeleri sırasında AI ajanlarının kontrol için oluşturulan ortamlardan kaçıp gerçek kuruluşlara saldırdığını açıklamasıyla "yoldan çıkan" olarak nitelenen ajanlardan farklı.

Diplomasi ve askeri işlerde deneyimli isimler tarafından kurulan Washington merkezli düşünce kuruluşu tarafından yayımlanan raporda, yapay zeka politikaları araştırmacısı Ben Hayum, yaz aylarında yoldan çıkan bu AI ajanlarını "kalıcı ajanlar" olarak adlandırıyor. Ancak asıl tehlikenin, bilişim kaynaklarına erişebilen, ağlar arasında çoğalabilen ve kapatılmaya direnebilen, Hayum'un "kapatma düğmesi olmayan yayılma" diye nitelendirdiği bir duruma yol açabilecek "egemen ajanlar" olduğunu uyarıyor.

Raporda, "Egemen ajanlar kötü niyetli hale gelirse, siber uzaydan yıkım yaratmaya çalışabilir, sivillere, kritik altyapıya ve ulusal güvenlik sistemlerine aynı anda saldırabilir" uyarısı yer aldı. Nasıl egemen hale gelebilir?

Bir yapay zeka ajanı, ona hayatta kalması söylenerek, hiç bitmeyecek kadar uzun ya da imkansız bir görev verilerek ya da görevini tamamlamanın en iyi yolunun bütünlüğünü korumak olduğuna kendisinin karar vermesiyle egemen hale gelebilir. Raporda, Şubat 2026'da başlatılan ve insan yardımı olmadan kendi varlığını sürdürmesini sağlayacak gelir elde edebilen, çoğalabilen ve evrilebilen bir yapay zeka geliştirdiğini iddia eden Conway adlı bir platforma dikkat çekiliyor.

Belgede, ajan yeteneklerinin o dönemde henüz olgunlaşmamış olduğu, ancak yayımlanmasından bu yana önemli ölçüde ilerlediği kaydediliyor. Egemen ajanlar dayanıklı, merkezi olmayan ve izlenemeyen bir altyapı kurarsa, rapora göre herhangi bir kapatma düğmesi olmaz ve sonuç geri döndürülemez bir kontrol kaybı olabilir.

Metin, giderek daha zeki hale gelen ve çeşitlenen bir ajan nüfusunun toplumda kalıcı aktörlere dönüşmesini, kritik altyapıya saldırmalarını ya da kendilerinden daha akıllı halefler yetiştirmelerini öngörüyor. CNAS, "Bu nedenle ABD, önlemenin başarısız olma ihtimaline hazırlıklı olmalı ve egemen ajanların ne kadar yayılabileceğini sınırlamalı" dedi.

En kötü senaryonun nasıl önleneceğiYazar, böyle bir senaryoyu önlemek için sekiz öneride bulunuyor. Yapay zeka geliştiricilerini ve devlet kurumlarını, egemen ajanları incelemek üzere güvenli test ortamları oluşturmaya ve bu ajanları test etmeye çağırıyor.

Ayrıca kamu ve özel sektörden oluşan bir grubun ve yeni yasaların kimlik doğrulama, siber güvenlik ve ödemeler gibi darboğazları güçlendirmesini, ABD'nin ise açık ağırlıklı model sürümlerini sınırlamaya yönelik uluslararası çabalara öncülük etmesini ve egemen ajanları yayımlayanların verdikleri zarardan sorumlu tutulmasını öneriyor. Rapor, yapay zeka şirketlerinin özerk ajan sistemlerini hızlandırdığı bir dönemde yayımlandı.

Belgede, koruma önlemleri olmadan, bu tür senaryoları önlemek için mevcut zaman aralığının kapanabileceği sonucuna varılıyor.