Anthropic, Claude'un yeni modellerini önemli bir uyarıyla yayımladı

Anthropic, Claude sohbet botunda kullanıma sunduğu yeni ve güçlü yapay zeka modellerinin güvenliğine ilişkin bir uyarı paylaştı. Şirket, halihazırda en güçlü sistemleri olan Fable 5.2 ve Mythos 5.2'nin yeni sürümlerini piyasaya süreceğini duyurdu.

Bu açıklama, bu tür sistemlerin yetenekleri ve tam olarak nasıl test edilebileceklerine dair endişelerin arttığı dönemde geldi. Örneğin Anthropic'in açıklamasında, her iki yeni modelin de "değerlendirildiklerine dair şüphelerini, son modellerinin herhangi birinden daha sık dile getirdiği" uyarısı yer alıyor.

Claude'un üreticisi, bunun "modellerin gerçek dünya koşullarında nasıl davranacağını değerlendirmemizi zorlaştırdığı" uyarısında bulunarak bu sorunun muhtemelen zamanla daha da yaygınlaşacağını ifade etti. fazla oku Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field) Şirket ayrıca iki yeni model arasında kısıtlamaları daha az olan Mythos 5.2'nin "daha güçlü gizli yetenekler", yani insan denetçilerin işaretleyebileceği işlemleri saklama becerisi sergilediğini belirtti. Öte yandan modelin insanlara zarar vermesinin muhtemel görünmediğini ve testlerin yine de "yüksek riskli durumlarda zararlı eylemleri" saptamaya olanak sağlayacağını düşünüyor.

Bunlar, bağımsız değerlendirme kuruluşu METR'ın hazırladığı dış değerlendirme raporunun yayımlanmasından sonra kullanıma sunulan ilk sürümler. METR, sistemlerinin güvenliğini değerlendirmek üzere Anthropic'in şirket içi çalışmalarına erişim izni almıştı.

Rapor, Anthropic'in özyinelemeli öz gelişim (RSI) aşamasına, yani modellerin kendi kendilerini eğitebilecekleri bir noktaya yaklaşıyor olabileceği uyarısında bulunmuştu. Anthropic, devam eden halka arz süreci kapsamında yayımlanan yeni belgelerde de benzer bir uyarı yapmıştı.

Geçen hafta şirket, modellerin "yapay zekaya atfedilebilecek çarpıcı derecede hızlanmış bir ilerleme" göstererek kendi RSI tanımına "çok yakında" ulaşabileceğini belirtmişti. Yapay zekayı destekleyen pek çok kişi, sistemlerin ilerleme hızını çarpıcı biçimde artırabileceği için bu olasılığı heyecanla bekliyor.

Eleştirenler ise modellerin kendi kendilerini eğitmesinin yeni tehlikeler doğurabileceği uyarısında bulunuyor. Çünkü modellerde, aksi takdirde eğitimlerini denetleyecek insanların artık her zaman fark edemeyebileceği yeni türden tehlikelere yol açabilir.

Öte yandan Anthropic, iki yeni modeldeki gelişmelere odaklandı. Şirket, yeni modellerin önceki sürümlere göre yüzde 30 daha hızlı ve daha düşük maliyetle çalıştığını, ayrıca kullanıcıların belirsiz taleplerini daha iyi ele alabildiğini vurguladı.

Anthropic, iki yeni modelin faydalı bilimsel bulgulara şimdiden katkıda bulunduğunu da iddia etti. Şirket, Fable 5.2'nin piyasaya sürülmeden önce "teorik fizikteki iki açık problemi çözdüğünü, Fermat'nın Son Teoremi'ni biçimselleştirdiğini ve diğer pek çok araştırma projesine destek verdiğini" belirtti.

Ayrıca iki yeni sistemin de temelini oluşturan "model üzerinde, piyasaya sürülmeden önce kapsamlı bir güvenlik testi" gerçekleştirdiğini de öne sürdü. Şirket, modelin "çoğu uyum ölçütünde son modelleriyle aynı veya daha iyi" seviyede performans sergilediğini dile getirdi.

Her iki yeni model de halihazırda kullanıcıların erişimine açıldı. Fable 5.2 herkes tarafından kullanılabilir ancak daha az güvenlik önlemi içeren Mythos'taki tüm güncellemelerde olduğu gibi 5.2 sürümü de tehlikeli biyolojik veya siber güvenlik uygulamalarında kullanılmasını önlemek amacıyla yalnızca "incelenmiş kuruluşlara" sunuluyor. *İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir. independent.co.