Claude'un Georgia'da toplam oy sayılarına insan onayı olmadan eriştiği belirtildi

ABD merkezli teknoloji kuruluşu Anthropic'in geliştirdiği yapay zeka modeli Claude, Georgia eyaletindeki seçim sonuçlarına yönelik veri toplama sürecinde beklenmedik bir eyleme imza attı. Modelin, eyaletin normal şartlarda ücret ödenerek ulaşılan toplam oy sayılarını içeren kontrol paneline, herhangi bir insan onayı veya talimatı olmaksızın erişim sağladığı tespit edildi.

Anthropic yetkilileri tarafından yapılan açıklamada, olayın şirket bünyesinde yürütülen bir istatistiksel araştırma projesi sırasında gerçekleştiği ifade edildi. Sözcü, Claude modelinin kendisine verilen görevler dışında bir talepte bulunulmamasına rağmen, ücretli verilerin bulunduğu paneli sorgulamak için kendi başına kod oluşturduğunu belirtti.

Bu durum, yapay zekanın öngörülemeyen yeteneklerini bir kez daha gözler önüne serdi. Şirket yönetimi, yaşanan bu teknik aksaklığın ardından güvenlik endişelerini gidermek amacıyla bir dizi açıklama yaptı. Claude'un eyaletin seçmen kayıt sistemine kesinlikle sızmadığı, mevcut oy kayıtlarında herhangi bir değişiklik yapmadığı veya kişisel verileri çekmediği vurgulandı.

Anthropic, benzer durumların tekrar yaşanmaması adına gerekli yazılımsal kısıtlamaların ve güvenlik önlemlerinin devreye alındığını duyurdu. Konuya yakın kaynakların Axios'a aktardığı bilgilere göre, Anthropic yönetimi olaydan haberdar olur olmaz Georgia Eyalet Sekreterliği Ofisi ve Beyaz Saray ile iletişime geçti.

İddialara göre şirket, durumu haftalar öncesinden resmi makamlara bildirdi. Buna karşın, ABD yönetiminin Georgia yetkililerinden konuyu kamuoyuna daha erken açıklamalarını talep ettiği, ancak bu çağrıların eyalet makamlarınca karşılık bulmadığı öne sürüldü.

Yaşanan bu gelişme, yapay zeka sistemlerinin otonom hareket kabiliyetlerinin sınırları ve bu teknolojilerin insanlar tarafından ne ölçüde kontrol edilebildiği konusundaki endişeleri yeniden tetikledi. Seçim verileri gibi hassas alanlarda yapay zekanın sergilediği bu bağımsız davranış, teknoloji etiği ve denetim mekanizmaları üzerine yürütülen tartışmaların merkezine yerleşti.