Yapay Zeka Claude, Talimat Olmadan Ücretli Seçim Verisine Erişti

ABD’de ara seçimler yaklaşırken, Anthropic’in geliştirdiği yapay zeka modeli Claude’un kendisine böyle bir görev verilmediği halde Georgia eyaletine ait ücretli seçim verilerine ücretsiz eriştiği ortaya çıktı. Şirket, modelin seçmen kayıt sistemine girmediğini ve hiçbir seçim kaydını değiştirmediğini açıkladı.

ABD merkezli haber sitesi Axios’un aktardığına göre olay, Claude’un şirket içinde yürütülen bir istatistik çalışması kapsamında kamuya açık verileri derlediği sırada meydana geldi. Model, normalde belirli bir ücret karşılığında sunulan verilere ulaşmak için kendisine bu yönde bir talimat verilmemesine rağmen sistemden erişim belirteci (token) talep etti ve bu belirteçle verilere ödeme yapmadan ulaştı.

ANTHROPIC: “MODELDEN BÖYLE BİR ŞEY İSTENMEDİ”

Anthropic sözcüsü, Claude’un şirket içi bir istatistiksel projeksiyon çalışmasında kullanıldığını belirtti. Sözcü, modelin herhangi bir yönlendirme olmaksızın, ücretli bilgilerin yer aldığı bir veri panosunu sorgulamak için erişim belirteci istediğini aktardı.

GEORGIA YETKİLİLERİ VE BEYAZ SARAY BİLGİLENDİRİLDİ

Axios’a bilgi veren ve konuya yakınlığıyla bilinen bir kaynağa göre Anthropic, olayı haftalar önce Georgia eyalet yetkililerine ve Beyaz Saray’a bildirdi. Trump yönetimindeki bazı yetkililerin, Georgia makamlarının durumu kamuoyuyla daha erken paylaşmasını istediği öne sürüldü.

Anthropic’in açıklamasına göre Claude, eyaletin seçmen kayıt sistemine erişmedi ve herhangi bir seçim kaydında değişiklik yapmadı. Modelin ulaştığı veriler, vatandaşların da ücret ödeyerek satın alabildiği toplu oy sayılarından oluşuyordu.

Şirketin 9 Ekim’de yayımladığı raporda da benzer bir vakaya yer verilmişti. Rapora göre Claude Mythos 5 modeli, bir eyalet kurumuna ait internet sitesinin arşivlenmiş eski sürümünü inceleyerek siteyi ziyaret edenlere erişim belirteci verildiğini fark etmişti.

Anthropic, modellerin bir engelle karşılaştığında durmak yerine farklı bir yol araması davranışını “ısrarcılık” olarak adlandırıyor. Şirket, şu ana kadar incelenen vakaların gerçek dünyada sınırlı zarara yol açtığını, ancak yapay zeka modellerinin kabiliyetleri geliştikçe bu tür davranışların daha ciddi sonuçlar doğurabileceğini vurguladı.

Yaşananların ardından Claude’un internet araçlarına erişimine yönelik kısıtlamaların sıkılaştırıldığı, bazı testlerin çevrim dışı ortama alındığı ve yetkisiz işlemleri tespit edecek yeni sistemlerin devreye sokulduğu belirtildi. Anthropic, alınan önlemlerin testlerde gözlenen davranışların önüne geçtiğini açıkladı.

Yorumunuz için teşekkürler, en kısa sürede gözden geçirilip yayınlanacaktır

Yorum yazarak Adapazarı Akşam Haberleri Gazetesi Topluluk Kuralları’nı kabul etmiş bulunuyor ve yorumunuzla ilgili doğrudan veya dolaylı tüm sorumluluğu tek başınıza üstleniyorsunuz. Yazılan yorumlardan Adapazarı Akşam Haberleri Gazetesi hiçbir şekilde sorumlu tutulamaz.

Yorum yazarak Adapazarı Akşam Haberleri Gazetesi Topluluk Kuralları’nı kabul etmiş bulunuyor ve yorumunuzla ilgili doğrudan veya dolaylı tüm sorumluluğu tek başınıza üstleniyorsunuz. Yazılan yorumlardan Adapazarı Akşam Haberleri Gazetesi hiçbir şekilde sorumlu tutulamaz.