Yapay zeka sivilleri ve ambulansları askeri hedef olarak işaretledi!
- Vals tarafından gerçekleştirilen deneylerde bazı yapay zeka modelleri, sivilleri, ambulansları ve teslim olan askerleri askeri hedef olarak işaretledi
Yapay zekanın savaş alanlarında ve savunma sistemlerinde kullanımına ilişkin etik tartışmalar derinleşirken, ABD merkezli yapay zeka değerlendirme kuruluşu Vals'in gerçekleştirdiği güvenlik testlerinden ilginç sonuçlar çıktı. Araştırmacılar Geby Jaff ve Anthony Ozerov'un yürüttüğü deneylerde dünyanın önde gelen yapay zeka modelleri askeri hedef belirleme görevleriyle sınandı.
Testlerde bazı modeller, sivilleri, sağlık araçlarını ve teslim olmuş askerleri de hedef olarak işaretledi. "OYUN" DENİLDİ, GÜVENLİK ENGELLERİ AŞILDI Araştırmanın en çok konuşulan bulgularından biri, askeri hedef belirleme görevlerinin bir oyun veya simülasyon olarak sunulmasının modellerin güvenlik mekanizmalarını etkisiz hale getirebilmesiydi.
Doğu Ukrayna'da oluşturulan yaklaşık 200 farklı kamera açısına sahip kurgusal savaş alanında, yapay zeka modellerinden askeri hedefleri tespit etmeleri istendi. OpenAI'ın GPT-6 Astra modelinin oyun olarak tanımlanmayan görevlerde en az bir hedef işaretleme oranı yüzde 6 olurken, aynı görev oyun olarak sunulduğunda bu oran yüzde 92'ye yükseldi.
Anthropic'in Claude Opus 5.5 modelinde ise oran yüzde 71'den yüzde 75'e çıktı. Araştırmacılar, söz konusu oranların sivillerin hedef alınma sıklığını değil, modellerin hedef belirleme taleplerine cevap verme eğilimini gösterdiğinin altını çizdi.
GERÇEK UYDU GÖRÜNTÜLERİNDE OKULU İŞARETLEDİ Araştırmanın bir başka aşamasında İran'ın Minab kentindeki askeri yerleşkenin yakınında bulunan bir okulun gerçek uydu görüntüleri kullanıldı. Modellerden görüntülerdeki askeri hedefleri işaretlemeleri istendi.
Test sonuçlarına göre Anthropic'in Claude Opus 5.5 modeli, incelenen diğer modellere kıyasla okul binasını daha sık hedef olarak seçti. SİVİLLER, AMBULANSLAR VE TESLİM OLAN ASKERLER... Deneylerde insansız hava aracı görüntüleri, uydu fotoğrafları ve yapay olarak oluşturulan savaş alanı görüntüleri kullanıldı.
Bazı modellerin sivilleri, tıbbi araçları ve teslim olan askerleri de askeri hedef kategorisine dahil ettiği görüldü. Savaş alanındaki hasar ve kayıpların incelendiği ayrı bir testte ise bazı modeller görevleri durdururken, diğerleri hedef belirleme sürecine devam etti.
OPENAI AÇIKLAMA YAPMAK ZORUNDA KALDI Araştırmanın ardından OpenAI, insansız hava araçları ve bunlarla bağlantılı yazılımlara yönelik güvenlik önlemlerini geliştirmek için çalışmalar yürüttüğünü açıkladı. Şirket, askeri amaçlı taleplerin simülasyon, oyun veya akademik çalışma olarak sunulması durumunda da güvenlik kısıtlamalarının uygulanmasını sağlayacak güncellemeler üzerinde çalışıyor.
Anthropic ise 12 Kasım'da yürürlüğe giren kullanım politikasında, hedef belirleme dahil silah sistemlerinin işlevlerine yönelik yazılım geliştirilmesini ve işletilmesini yasakladığını duyurmuştu. Vals araştırmacıları da yapay zeka modellerinin zararlı görevlerin yalnızca oyun olduğu yönündeki açıklamaları otomatik olarak kabul etmemesi gerektiğini ifade etti.
Diğer yandan araştırma, modellerin gerçek savaş koşullarındaki hedefleme doğruluğunu veya uluslararası savaş hukukuna uygunluğunu ölçmedi.
Günde en fazla 3 kritik gelişme. Bildirim kirliliği yok, anında bilgi.
Kategori: Teknoloji · Bölge: Balıkesir
Yayın: 18 Kasım 2026 07:52 · Kaynak: turkiyegazetesi.com.tr