Anthropic’in yapay zekası ‘zeka’sını bir yılda iki kat artırdı

Yapay zeka güvenliğini takip eden bir örgütün bağımsız değerlendirmesi Claude'un geliştiricisinin yapay zeka alanındaki ilerlemesinin bir yıl önceye kıyasla artık iki kat hızlı olduğunu gösterdi.

Yeni bir araştırmada Anthropic'in yapay zeka modellerinin kendi gelişimlerini hızlandırdığı bulundu. Bu durum, kontrolden çıkan yapay zekaya dair endişeleri artırıyor.

Yapay zeka güvenliğini takip eden bir örgütün bağımsız değerlendirmesi, Claude'un geliştiricisinin yapay zeka alanındaki ilerlemesinin bir yıl öncesine kıyasla artık iki kat daha hızlı olduğunu gösterdi.

Kâr amacı gütmeyen Model Değerlendirme ve Tehdit Araştırmaları (METR) kuruluşunun paylaştığı bulgular, Anthropic CEO'su Dario Amodei'nin Yapay zekayı geliştirme hızının yavaşlatılması yönünde çağrı yaptığı dönemde geldi.

Teknoloji patronu eylülde yayımladığı "We Must Pace the Frontier" (İlerlemeyi Yavaşlatmalıyız) başlıklı makalede, yapay zeka modellerini güvenli şekilde geliştirmek için üç maddelik bir plan önermişti.

Amodei "Aşağı yukarı bu yazdan beri yapay zeka, esasen yeni nesil yapay zekayı geliştirme yeteneğinin artması sayesinde çarpıcı bir hızda ilerliyor" diye yazmıştı.

OpenAI CEO'su Sam Altman da o dönemde yaptığı açıklamada "ilerlemeyi yavaşlatmak gerektiğine" katıldığını söylemiş ve Amodei'nin bağımsız değerlendirme uzmanları önerisini "harika bir fikir" diye nitelemişti.

Anthropic, METR'dan araştırmacıları şirket içi verileri incelemeleri ve modellerinin yeteneklerini değerlendirmeleri için davet etmişti.

Perşembe günü yayımlanan raporda, Anthropic'in son bir yılda karşılaştırmalı performans açısından fiilen iki yıllık bir ilerleme kaydettiği belirtiliyor.

Araştırmacılar gelişimdeki bu hızlanmanın, modelleri eğitmek için kullanılan bilgi işlem gücündeki artıştan ziyade, yapay zeka modellerindeki özyinelemeli öz gelişimden kaynaklandığını söylüyor.

Raporda, "Yapay zeka sistemleri, yapay zeka geliştirme sürecini ciddi derecede hızlandırmaya başlarsa, bu durum uç noktada ve riskli yeteneklerin aniden ortaya çıkmasına yol açabilir" ifadeleri yer alıyor.

Araştırmacılar ayrıca yapay zeka geliştirmenin en kritik kısımlarının denetiminde hâlâ insanlara ihtiyaç duyulduğunu ancak bu durumun yakında değişebileceğini de belirtiyor.

Ekip "Yapay zekanın, model eğitim sürecinin en önemli kısımlarına henüz büyük önem taşıyan ve tamamen özerk katkılar sağlayamadığını biliyoruz" diye yazıyor.

Deneyiminizi iyileştirmek, tanımlama bilgilerini, sitemizin doğru şekilde çalışmasını sağlamak, içerikleri ve reklamları kişiselleştirmek, sosyal medya özellikleri sunmak ve site trafiğimizi analiz etmek için yasal düzenlemelere uygun çerezler (cookies) kullanıyoruz.