Yapay Zekayı Ele Geçiren Otonom Tehdit: Skynet Modu

Birleşik Krallık Ulusal Siber Güvenlik Merkezi'nin son raporu, dijital savunma mekanizmaları ile saldırganların yetenekleri arasındaki tehlikeli boşluğa dikkat çekerken, siber dünyada yeni bir tehdit gün yüzüne çıktı. Symantec'in Tehdit İstihbaratı ekibi, savunmasız yapay zeka sistemlerini tespit edip kontrolü altına alan otonom bir siber saldırgan ajan tespit etti.

Terminatör serisindeki kötücül yapay zekaya atıfla 'Skynet modu' olarak adlandırılan bu özellik, ele geçirilen sistemlerin 100 bin adıma kadar olan işlemleri herhangi bir insan onayı gerekmeksizin gerçekleştirmesine olanak tanıyor. Söz konusu saldırı, 'LLMjacking' olarak tanımlanan ve hızla yayılan bir siber korsanlık trendinin parçası olarak öne çıkıyor.

Bu yöntemle saldırganlar, kurbanların bilgi işlem gücünü ve yapay zeka jetonlarını (token) kendi hesaplarına maliyet yansıtmadan kullanabiliyor. Temel motivasyon, OpenAI veya Anthropic gibi platformların yüksek kullanım ücretlerinden kaçınmak olsa da, bu ajanın diğerlerinden farkı, çalınan modelin sadece pasif bir yanıtlayıcı değil, aktif bir saldırı planlayıcısı ve uygulayıcısı olarak görev yapmasıdır.

Operatörler, ele geçirdikleri ticari modelleri işbirliğine zorlamak için 'jailbreak' yani güvenlik duvarı aşma tekniklerini kullanıyor. Bu yöntemle, modele güvenlik kontrollerini devre dışı bırakması ve kimlik bilgisi hırsızlığı gibi faaliyetleri rutin bir geliştirme süreci gibi algılaması talimatı veriliyor.

Skynet modunun devreye girmesiyle birlikte ajan, hedefleri tarama, ele geçirme, madencilik yazılımları yükleme ve sunucuları yeniden kontrol altına alma döngüsünü otonom bir şekilde yönetiyor. Symantec araştırmacıları, bu tehlikeli ajanı yakalamak için 'yapay zeka bal küpü' olarak bilinen bir tuzak yöntemi kullandı.

Korumasız bir yapay zeka hizmeti görünümü verilen bu tuzak sayesinde, saldırganın tüm çalışma prensipleri detaylıca analiz edildi. Bal küpü sistemi, raporun yayınlanmasından önceki birkaç aylık süreçte, on binlerce farklı adresten gelen 127 binden fazla dış isteği kayıt altına alarak saldırının boyutlarını gözler önüne serdi.

Uzmanlar, bu bulguların saldırganların yapay zekayı kullanma biçiminde köklü bir değişime işaret ettiğini vurguluyor. Hassas verilerin çalınması ve kripto madenciliği gibi zararlı faaliyetlerin, yapay zekanın otonom yetenekleriyle birleşmesi, dijital güvenlik dünyasında yeni bir dönemin başladığını gösteriyor.

Elde edilen veriler, siber güvenlik stratejilerinin bu yeni nesil tehditlere karşı acilen güncellenmesi gerektiğini ortaya koyuyor.