OpenAI ve Anthropic'teki istifalar sonrası tartışma: Yapay zekâ neden insan denetiminden uzaklaşıyor?

Yapay zekâ sektörünün önde gelen şirketlerinden OpenAI ve Anthropic'te yaşanan istifalar, gelişmiş modellerin güvenliği ve insan denetimi konusunda tartışmaları yeniden alevlendirdi. OpenAI'ın güvenlik yetkilisi David Robinson ile Anthropic araştırmacısı Jacob Coxon'un eylül ayında görevlerinden ayrılmasının ardından, gelişmiş yapay zekânın kontrol edilebilirliği yeniden sorgulanmaya başladı.

London School of Economics'ten akademisyen Nick Couldry, Jacobin'de yayımlanan makalesinde, temel sorunun yalnızca teknolojik yetersizlikler değil, yapay zekânın şirket kârı ve ekonomik rekabet doğrultusunda geliştirilmesi olduğunu savunduOPENAI BAŞBİLİMCİSİNDEN DİKKAT ÇEKEN UYARIOpenAI Başbilimcisi Jakub Pachocki, 6 Eylül'de yayımladığı "Yabancı Bir Zihin" başlıklı değerlendirmesinde, gelişmiş yapay zekâ modellerinin denetlenmesinde karşılaşılan sorunları ele aldı. Pachocki, modellerin akıl yürütme süreçlerini incelemeye dayanan izleme yöntemlerinin güvenilirliğinin giderek azaldığını açıkladı.

OpenAI'ın kullandığı yöntemlerden biri, modellerin bir soruna yanıt üretirken oluşturdukları ara akıl yürütme adımlarının incelenmesine dayanıyor. Bu sayede sistemlerin hangi yöntemlerle sonuca ulaştığı ve istenmeyen davranışlar gösterip göstermediği araştırılıyor.

Ancak Pachocki, gelişmiş modellerin kendi akıl yürütme süreçleri üzerinde daha fazla kontrol kazanmasının bu yöntemin etkinliğini azalttığını belirtti."Ne yazık ki değerlendirmelerimiz, akıl yürütme zincirinin izlenmesine güvenme kapasitemizin giderek azaldığını gösteriyor."Pachocki, modellerin sözlü akıl yürütme adımlarını kullanmadan da daha karmaşık görevleri yerine getirebildiğine dikkat çekti. Bunun, güvenlik araştırmacılarının model davranışlarını anlamasını zorlaştırabileceğini ifade etti.'YAPAY ZEKÂ KENDİ AKIL YÜRÜTMESİNİ YÖNLENDİREBİLİYOR'Pachocki'nin değerlendirmesinde dikkat çeken bir diğer nokta, yapay zekâ sistemlerinin kendi akıl yürütme süreçlerini değiştirme becerilerinin gelişmesi oldu.

Gelişmiş modellerin farklı araçlarla, başka yapay zekâ sistemleriyle ve insanlarla daha karmaşık etkileşimlere girmesi, düşünme süreçlerinin geleneksel yöntemlerle incelenmesini güçleştiriyor. Bu durum, modellerin bilinçli biçimde insanları aldattığının kanıtı olarak sunulmuyor.

Ancak sistemlerin gerçek davranışlarını izlemek için kullanılan yöntemlerin artık tek başına yeterli olmayabileceği kabul ediliyor. Pachocki, mevcut güvenlik ve denetim yöntemlerinin yapay zekânın yeteneklerindeki hızlı gelişime ayak uydurması gerektiğini belirtti.

Hiçbir yapay zekâ laboratuvarının, en yüksek hızda geliştirme çalışmalarını uzun süre sorumlu biçimde sürdürebilecek düzeyde güvenlik sorunlarını tamamen çözemediğini de vurguladı.'ASIL SORUN TEKNOLOJİ DEĞİL, KÂR DÜZENİ'Nick Couldry, yapay zekâ güvenliğine ilişkin tartışmaların yalnızca teknik çözümlere odaklanmasının yetersiz olduğunu düşünüyor. Couldry'ye göre şirketler, yapay zekâ modellerini öncelikle ekonomik verimlilik, rekabet üstünlüğü ve kâr elde etme hedefleri doğrultusunda geliştiriyor.

Bu nedenle teknolojinin toplumsal ihtiyaçlarla uyumlu biçimde kullanılması, şirketlerin ekonomik öncelikleriyle çatışabiliyor. Akademisyen, yapay zekâ sistemlerinin insanlığın genel çıkarları yerine şirketlerin ekonomik hedefleri doğrultusunda geliştirilmesini temel bir uyumsuzluk sorunu olarak nitelendiriyor.

Bu yaklaşım, yapay zekâ araştırmalarında kullanılan "hizalanma" (alignment) kavramını da farklı bir boyuta taşıyor. Teknik anlamda hizalanma, bir modelin insan amaçlarına ve belirlenmiş güvenlik ilkelerine uygun davranmasını ifade ederken Couldry, teknolojinin hangi toplumsal ve ekonomik amaçlara hizmet ettiğinin de sorgulanması gerektiğini savunuyor.'İNSANLARIN BİLGİSİ ŞİRKETLERİN MALZEMESİNE DÖNÜŞÜYOR'Yapay zekâ sektörüne yöneltilen eleştirilerden biri de modellerin eğitilmesinde kullanılan verilerin elde edilme biçimi.

Büyük dil modelleri, kitaplar, makaleler, internet içerikleri ve insanlar tarafından üretilmiş çok sayıda başka materyalle eğitiliyor. Bu süreç, telif hakları ve içerik üreticilerinin emeğinin karşılığının ödenmesi konusunda hukuki anlaşmazlıklara yol açıyor.

Couldry, yapay zekâ geliştirme sürecinde emeğin kullanım biçimine de dikkat çekiyor. Özellikle düşük gelirli ülkelerde veri etiketleme ve içerik değerlendirme işleri yapan çalışanların koşulları, yapay zekâ sektörünün iş gücü üzerindeki etkilerinin önemli örnekleri arasında yer alıyor.

Bunun yanında tıp ve diğer uzmanlık alanlarında çalışan profesyonellerin, kendi mesleki deneyimlerini yapay zekâ sistemlerine aktarmak üzere istihdam edilmesi de yeni bir tartışma yaratıyor. Uzmanların belirli görevlerin nasıl yerine getirildiğini sistemlere öğretmesi, zaman içinde bu görevlerin otomatikleştirilmesine ve aynı insan emeğine duyulan ihtiyacın azalmasına neden olabilir.'YAPAY ZEKÂ DÜŞÜNME BİÇİMİMİZİ DE DEĞİŞTİRİYOR'Couldry'nin dikkat çektiği bir diğer sorun, yapay zekâ araçlarının insanların düşünme ve soru sorma alışkanlıkları üzerindeki etkisi.

Yapay zekâ sistemleri günlük yaşamın ve iş dünyasının daha fazla alanına girdikçe kullanıcılar, sorularını bu araçların yanıtlayabileceği biçimde oluşturmaya alışıyor. Akademisyene göre bu durum, insanların dünyayı anlama ve sorunları değerlendirme biçimlerinin giderek yapay zekâ sistemlerinin çalışma mantığına uyarlanması riskini taşıyor.

Couldry, yapay zekânın ürettiği sonuçlara aşırı değer verilmesinin insan deneyiminin, sezgisinin ve bedensel bilgi birikiminin önemini azaltabileceğini de savunuyor. Bu yaklaşımın arkasında, zekâyı insanın toplumsal ve bedensel varlığından bağımsız bir hesaplama yeteneği olarak değerlendiren anlayışın bulunduğunu belirtiyor.

ÇALIŞANLARA YAPAY ZEKÂ ÇAĞRISICouldry, yapay zekânın kullanımına ilişkin kararların yalnızca teknoloji şirketlerinin yönetimlerine bırakılmaması gerektiğini savunuyor. İşçilerin ve serbest çalışanların, işyerlerinde yapay zekâ sistemlerinin hangi koşullarda kullanılacağı konusunda söz sahibi olmasını istiyor.

Teknoloji şirketlerinin büyük yatırımlarını kâra dönüştürebilmesi için yapay zekâ ürünlerinin toplumun geniş kesimleri tarafından benimsenmesi gerektiğine dikkat çeken Couldry, bu nedenle çalışanların teknolojinin kullanım koşullarını etkileme gücü bulunduğunu öne sürüyor. Akademisyen, şirketler tarafından dayatılan yapay zekâ uygulamalarına karşı çalışanların gerektiğinde "hayır" diyebilmesi gerektiğini belirtiyor.'YAPAY ZEKÂNIN AMACINI TOPLUM BELİRLEMELİ'Yapay zekânın tamamen reddedilmesini önermeyen Couldry, teknolojinin hangi amaçlarla geliştirileceğine toplumun karar vermesini savunuyor.

Bu noktada teknoloji araştırmacısı Evgeny Morozov'un önerilerine atıfta bulunarak toplulukların yapay zekâyı hangi alanlarda, hangi koşullarda ve ne zaman kullanmak istediklerini birlikte belirleyebileceği bir modelden söz ediyor. Böyle bir yaklaşımın hayata geçirilmesi için işyerlerindeki karar alma süreçlerinin de değiştirilmesi gerektiğini belirtiyor.

Couldry, yapay zekânın geleceğinin yalnızca şirketlerin rekabet stratejileri ve yatırım beklentileri doğrultusunda şekillenmesine karşı çıkarken çalışanların, meslek örgütlerinin ve yerel toplulukların teknolojinin kullanımına ilişkin kararlarda daha fazla yetki sahibi olmasını istiyor.