Anthropic kritik yapay zeka eşiğini "çok yakında" aşabilir

Anthropic, yapay zeka alanında önemli bir eşiği aşmak üzere olabileceğini ve bu gerçekleştiğinde farkına varamayabileceğini açıkladı. Halihazırda şirket, yaklaşık 1,5 trilyon dolarlık bir değerle borsada işlem görmesini sağlayacak bir halka arz sürecinde.

Bu nedenle firmanın işleyişi ve tam olarak nelerden korktuğuna dair daha önce bilinmeyen bir dizi bilgiyi kamuoyuna açıklıyor. Bu endişeler ilk kez şirketin halka arz başvuru belgelerinde ortaya çıkmış, bunların büyük bir kısmı şirketin faaliyetlerine yönelik tehditlere ayrılmıştı.

Belgelerde, firmanın yapay zekasının insanlık için "felaket niteliğinde veya varoluşsal" bir risk yaratabileceğine dair bir uyarı da yer alıyordu. fazla oku Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field) Anthropic bu belgeleri güncelleyerek "çok yakında" önemli bir dönüm noktasına ulaşılabileceğine dair bir tahmin de dahil bir dizi yeni risk ekledi. Şirket, gelecekteki modellerin yakında "yapay zekaya atfedilebilecek çarpıcı derecede hızlanmış bir ilerleme" sergileyebileceğini belirtti.

Bu, şirketin "özyinelemeli öz gelişim" (RSI) için kullandığı tanım. Yapay zeka uzmanlarının kullandığı bu ifade, yapay zeka sistemlerinin kendi kendilerini geliştirebilecek kadar güçlendiği durumu tanımlıyor. Bu yaklaşımı destekleyenler, bunun yapay zeka araçlarının gücü ve yeteneklerinde çarpıcı gelişmelere yol açabileceğini öne sürerken, eleştirenler ise bunun bir dizi yeni tehlikeyi de beraberinde getirebileceği uyarısında bulunuyor.

Anthropic'in belgeleri, böyle bir durumun gerçekleştiğinin ancak olaydan sonra farkına varılabileceği uyarısını da içeriyor. Daha önce "gelişim hızındaki ciddi bir artışın, bu gerçekleştikten sonra" saptandığı ve aynı durumun tekrar yaşanabileceği ifade ediliyor.

Belgelere göre Anthropic, kendi tanımladığı RSI eşiğine henüz ulaşmadığını düşünüyor. Ancak mevcut modelleriyle ilgili "temel verileri değerlendirmeye" devam ettiğini belirtiyor. Ayrıca bu eşiğe nihayet ulaştığında bunun ne anlama geleceğini de değerlendiriyor.

Ancak firma şu uyarıyı paylaşıyor: Teknolojinin yeteneklerinin, güvenlik, uyum ve emniyet önlemlerimizi geride bırakması veya bu tür bir ilerlemenin hızını öngöremememiz halinde, ortaya çıkan riskleri yeterince iyi değerlendiremeyebilir veya hafifletemeyebiliriz. Şirket, kendi araştırma ve geliştirme faaliyetlerinde yapay zeka sistemlerinin giderek daha fazla kullanılması nedeniyle sistemlerin, onları kontrol etme becerisinden daha hızlı gelişebileceğini söylüyor.

Belgeye göre, mevcut yapay zeka araçlarını kullanan yeni yapay zeka sistemlerinin gelişim hızına dair kanıtların çoğu "gecikmeli göstergelere" dayanıyor ve Anthropic'in, yeteneklerinin ne kadar hızlı ilerlediğini öngörme veya ölçme yeteneği "sınırlı". Bu nedenle şirketin "güvenlik çabalarının model yetenekleriyle birlikte ilerlemesini sağlamak için önleyici güvenlik, uyum ve emniyet tedbirlerini" şimdiden uygulamaya koyduğu dile getiriliyor.

Belgede, Mythos gibi özellikle güçlü modellerin kullanıma sunulmasının ertelenmesi ve erişimin sınırlandırılması örnek gösteriliyor. Siber güvenlik açıklarını tespit etmede özellikle yetenekli olan Mythos, bu nedenle yalnızca onaylanmış kişi ve kurumları erişimine açılmıştı.

Belge ayrıca Anthropic'in, yapay zeka geliştirme sürecinin kontrolünün insanlarda kalmasını sağlamayı taahhüt ediyor. Claude'un "teknik açıdan bunu yapma noktasına gelse bile, anlamlı bir insan denetimi veya anlayışı olmadan" yeni modelleri "güvenle" geliştirmesinin beklenmediği söyleniyor.

Ayrıca "Anthropic'teki öncü modelleri geliştirme sürecinin kontrolünün insanlarda kalmasını" sağlamak için politikaların güncellendiği belirtiliyor. Ancak belge, ihtiyatlı bir yaklaşım benimsemenin, özellikle modellerinin yetenekleri geliştikçe Anthropic'in daha fazla maliyete katlanmasına yol açabileceğine dair yatırımcıları uyarıyor.

Ayrıca bu durumun, benzer önlemleri almayan diğer rakiplerinin gerisinde kalmasına yol açarak şirketin gelişimini engelleyebileceği uyarısı da yer alıyor. *İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir. independent.co.