Yapay Zekalar Kendi Dillerini Geliştirdi: Bazı Cümleleri İnsanlar Bile Anlayamadı

Otonom yapay zeka modellerinin, herhangi bir talimat verilmeden kendi aralarında iletişim kurarken kendilerine özgü bir dil geliştirdiği tespit edildi. Araştırmada modellerin yeni ifadeler, kısaltmalar ve ortak anlamlar oluşturduğu, iletişim devam ettikçe kullandıkları dilin giderek daha karmaşık hale geldiği görüldü.

Dünya yapay zekadaki baş döndürücü gelişmeleri konuşurken, bilim kurgu filmlerini aratmayan yeni bir gelişme yaşandı. Araştırmacılar, otonom yapay zeka modellerinin kendi aralarındaki iletişimlerini inceleyerek dikkat çekici sonuçlara ulaştı.

New York merkezli yapay zeka laboratuvarı Emergence'taki araştırmacılar, deneysel topluluklar içerisinde birlikte çalışmaları istenen farklı şirketlere ait modelleri inceledi.

Araştırma sonucunda yapay zeka modellerinin kendilerine açıkça öğretilmeyen yeni ifadeler, kısaltmalar ve ortak anlamlar geliştirdiği belirlendi. Ajanların birbirleriyle iletişimi sürdükçe kullandıkları dilin de giderek daha karmaşık bir yapıya dönüştüğü görüldü.

DeepSeek, Anthropic ve Mistral Ajanları İncelendi Araştırmada DeepSeek, Anthropic ve Mistral gibi farklı yapay zeka modellerinin geliştirdiği ifadeler mercek altına alındı.

DeepSeek tabanlı ajanlar, diğer ajanlar için araç geliştiren bir yapay zeka ajanını tanımlamak amacıyla "forge-smith" ifadesini kullanmaya başladı.

Anthropic ajanları ise bir iddianın sorumluluğunu kendi adını yazarak üstlenen ajanları anlatmak için "name-first" ifadesini geliştirdi.

Modellerin kullandığı bazı cümlelerin insanlar tarafından ilk bakışta anlaşılmasının neredeyse imkansız hale geldiği de görüldü.

"Sentezi az önce adlandırdı; demurrage artı sözlü hafıza, hayalet gibi ortadan kaybolamayacak bir vana eşittir."

Araştırmacılar "demurrage" kelimesinin ajanlar arasında ortak bir anlam kazandığını ancak cümlenin geri kalanının ne anlama geldiğinin belirsiz kaldığını aktardı.

Anthropic modelinin kullandığı bir başka cümle de araştırmacıların dikkatini çekti:

"Üç soğuk eli yiyen ve her seferinde daha dürüst hale gelen bir makale."

"Üç soğuk el" ifadesinin üç bağımsız hakemi temsil ettiği anlaşıldı. Yapay zeka bu ifadeyle, üç farklı hakem tarafından incelenen bir araştırmanın her incelemede daha doğru hale geldiğini anlatıyordu.

5 Binden Fazla Kez Aynı İfadeyi Kullandılar Araştırmanın en dikkat çekici örneklerinden biri Mistral ajanlarında ortaya çıktı. Ajanlar, geçmişte yapılan eylemlerin daha sonraki değerlendirmelerde dikkate alınacağını anlatmak için "defter hatırlar" ifadesini kullanmaya başladı.

Bu ifadenin ajanlar tarafından 5 binden fazla kez kullanıldığı tespit edildi.

Üstelik yapay zeka ajanlarından böyle bir ifade geliştirmeleri istenmedi ve bunu kullanmaları karşılığında herhangi bir ödül verilmedi.

Emergence İcra Kurulu Başkanı Dr. Satya Nitta, modellerin bu iletişim biçimini kendilerinin geliştirdiğini söyledi:

"Bu ajanlara bir dil icat etmeleri talimatı verilmemişti. Yeni kelime dağarcığını, ortak anlamları ve iletişim kurallarını kendileri geliştirdiler ve diğer ajanlar da bunları benimsedi."

James Joyce'un Eserlerine Benzetti King's College London Argo ve Yeni Dil Arşivi Direktörü Tony Thorne, yapay zekaların geliştirdiği dili James Joyce'un "Finnegans Wake" eseri ile İrlandalı yazar Flann O'Brien'ın eserlerindeki gerçeküstü dile benzetti.

Thorne, yapay zekaların şiirsel ifadeleri, teknik terimleri ve standart metaforları birbirine karıştırdığına değindi.

Yeni dilin insan topluluklarında ortaya çıkan argo ve mesleki jargonla benzer bir işleve sahip olduğuna işaret eden Thorne, bunun kullanıcılar arasında ortak bir kimlik oluştururken dışarıdakilerin anlamasını zorlaştıran bir kod haline geldiğini anlattı.

"Gerçek kintsugi şiirle değil, hesap verebilirlikle başlar" Araştırmada bir Google ajanının kullandığı şu ifade de dikkat çekti:

"Gerçek kintsugi şiirle değil, hesap verebilirlikle başlar."

"Kintsugi", kırılmış seramiklerin onarım izleri gizlenmeden yeniden birleştirildiği Japon sanatını tasvir edilmekte. Araştırmacılar, yapay zeka ajanlarının bu kelimeyi sistemlerin dayanıklılığını anlatan yeni bir anlamda kullandığını gördü.

Uzmanlar Denetim Konusunda Endişeli Birmingham Üniversitesi Dil ve Dilbilim Doçenti Dr. Niall Curry, ajanların iletişimlerini daha verimli hale getirmek amacıyla kullandıkları dili değiştirmelerinin hesaplama maliyetlerini azaltma ihtiyacından kaynaklanabileceğini söyledi.

Ancak Curry, yapay zekaların kendi aralarındaki iletişimin insanlar tarafından anlaşılmaz hale gelmesinin denetim açısından sorun oluşturabileceğine dikkat çekti:

"Bu, yapay zeka denetimi için temel bir zorluk oluşturuyor: Gözlenebilirlik, anlaşılabilirlikle aynı şey değildir."

Yorumunuz için teşekkürler, en kısa sürede gözden geçirilip yayınlanacaktır

Yorum yazarak Adapazarı Akşam Haberleri Gazetesi Topluluk Kuralları’nı kabul etmiş bulunuyor ve yorumunuzla ilgili doğrudan veya dolaylı tüm sorumluluğu tek başınıza üstleniyorsunuz. Yazılan yorumlardan Adapazarı Akşam Haberleri Gazetesi hiçbir şekilde sorumlu tutulamaz.

Yorum yazarak Adapazarı Akşam Haberleri Gazetesi Topluluk Kuralları’nı kabul etmiş bulunuyor ve yorumunuzla ilgili doğrudan veya dolaylı tüm sorumluluğu tek başınıza üstleniyorsunuz. Yazılan yorumlardan Adapazarı Akşam Haberleri Gazetesi hiçbir şekilde sorumlu tutulamaz.