Yapay zekanın iki ucu keskin bıçağı

Yapay zekayı var eden nöral ağları (yapay sinir ağları) geliştirenlerden biri olan ve bu nedenle “Yapay zekanın babalarından” diye tanımlanan Kanadalı bilim insanı Geoffrey Hinton, uzun zamandan beri yapay zekayla ilgili endişelerini açıkça dile getiren bir isim.

Geçenlerde İngiliz The Telegraph gazetesine bir söyleşi verdi ve söyleşide, yapay zekanın artık “bilinçli bir varlık” olabileceğini dile getirdi.

Bunu da bazı yapay zekaların kendilerinin test edildiğinin farkına varıp buna göre davranmaya başlamasına dayandırdı. Yani yapay zekanın “farkındalığı” olduğunu söyledi.

Gerçekten de biri OpenAI’a, diğeri ise Anthropic’e ait iki ayrı yapay zeka modelinin araştırmacılar kendilerini test ederken farklı davrandığı, test edilmedikleri zamana göre kendilerini daha “yetersiz” veya farklı gösterdikleri durumlar gözlemlenmişti. Bir açıdan bakınca bu yapay zekaların bir “farkındalık” benzeri davranış sergilediği söylenebilir.

İnsana özgü bir şey olduğu düşünülen “bilinç” tanımlanması zor bir kavram ama bir canlının bilinçli olup olmadığını değerlendirmek için bakılan kriterlerden biri, o canlının kendi varlığının ve içinde bulunduğu ortamın farkında olması. Buna “farkındalık” diyoruz.

Tabii bir kedi de bir bakteri de bulunduğu ortamın “farkında”. Ve o ortama göre kendine yeni bir yol çiziyor. Örneğin sadece şeker tüketen bakterilere şeker vermeyi kesip protein vermeye başladığınızda, bakteri kısa süre içinde yeni ortama uyum sağlıyor ve gen ifadesini değiştirerek şeker yerine protein kullanarak yaşamını sürdürüyor.

Yani bakterinin hem hayatta kalma mekanizması var hem de bulunduğu ortamdaki değişimlere yanıt veriyor.

Peki bilinçli mi? Bir bakıma evet, bir bakıma hayır. Çünkü bilinç sadece “farkındalık”tan oluşmuyor; insan seviyesinde bilinç için başka özellikler de gerekiyor. Örneğin duygusal deneyimler yaşamak: sevinmek, üzülmek, aşık olmak, nefret etmek vs.

Bilinç tek başına “farkındalık”tan oluşmasa bile Hinton’un uyarısı ciddi. Çünkü yapay zekanın nasıl olup da test edilirken hileli veya yanıltıcı yanıtlar verebildiğini, yani bir nevi stratejik davrandığını henüz tam olarak açıklayamıyoruz.

Bunu nasıl yaptığını bilmediğimiz gibi arka plandaki dinamikleri de tam olarak çözebilmiş değiliz.

Söz konusu yapay zeka modellerinin test edilirken olduğundan farklı davranmasını izah etmeye çalışan uzmanlar, bu açıklamaları yaparken yapay zekaları insan psikolojisi kavramlarıyla değerlendirdiklerini fark etmişler.

Örneğin bir uzman, ilk değerlendirmesinde “Testi yapan insanları memnun etmek için” yapay zekanın böyle davrandığını söylemiş; sonra da anthropomorfik (insanlaştırıcı) bu ifadesine dikkat çekilmişti.

Bu tartışmada en kilit konulardan biri, yapay zekanın neyi neden yaptığını tam olarak göremiyor olduğumuza dair oluşan genel kanaat.

Bilgisayar bilimciler kızmasınlar, çok kabaca birkaç maddede bu konuyu anlatmaya çalışacağım:

Nöral Ağlar ve Paralel İşlem: İnsan beynindeki nöronlar ve biyolojik sinapslar karmaşık ağlar oluşturur. Biyolojik nöronlar sürekli ve paralel bir şekilde sinyal alışverişinde bulunur. Yapay sinir ağlarında ise bilgisayar çiplerindeki mantıksal devreler ve ağırlık matrisleri (matris çarpmaları) kullanılarak bu matematiksel yapı taklit edilir.

Geoffrey Hinton ve meslektaşları, yapay sinir ağlarının derin öğrenme (Deep Learning) algoritmalarıyla devasa veriler üzerinden çok katmanlı olarak eğitilebilmesini sağlayan mimarileri ve geri yayılım (backpropagation) tekniklerini geliştirdiler. Yapay nöronlar, matris işlemleri sayesinde milyonlarca veriyi aynı anda işleyerek yüksek bir kapasite oluşturur.

Token ve Eğitme Süreci: Nöral ağları eğitirken verileri parçalara ayırırız. Metin tabanlı sistemlerde kelimeler veya kelime parçaları “token” olarak adlandırılır. Ancak her bir token insan tarafından tek tek elle tanımlanmaz; model, devasa veri kümelerini işleyerek kelimeler ve kavramlar arasındaki istatistiksel ilişkileri kendi matematiksel vektör uzayında öğrenir.

Veri ve token ölçeği büyüdükçe, modelin sunduğu yanıtlar da daha tutarlı ve nitelikli hale gelir.

Çıktılardaki Değişkenlik: Nöral ağlar aynı soruya her seferinde farklı cevaplar verebilir. Bunun temel sebebi sistemin doğasının gizemli olması değil, yanıt üretilirken rastgelelik katan “temperature” (sıcaklık) ve olasılık örnekleme (sampling) parametreleridir.

Bu ayarlar sıfırlandığında deterministik (her defasında birebir aynı) yanıtlar elde edilir.

Kara Kutu (Black Box) ve Polysemanticity: Modeller büyüdükçe, trilyonlarca parametrenin birbiriyle nasıl etkileşime girdiğini insan zihniyle anlık olarak takip etmek imkansızlaşır. Bu durum, yapay zekanın bir “kara kutu” olarak anılmasına yol açar.

Yapay sinir ağlarındaki determinizm tartışmaları mantıksal düzeyde değil, “anlaşılabilirlik” düzeyindedir. Araştırmacılar nöronların tek bir kavrama değil, birden fazla kavrama aynı anda hizmet etmesi durumuna “polysemanticity” (çok anlamlılık) adını verirler.

Tartışmalarda ağırlıklı olarak modellerin iç mekanizmasının şeffaf olmaması (yani “kara kutu” niteliği) vurgulanmaktadır. Bu durum, yapay zeka kaygılarının temelinde yatan ana unsurdur.

Yani yapay zeka genel yapay zeka (AGI) seviyesine geldiğinde kontrol edemeyeceğimiz bir yapıya dönüşebilir; neyi neden yaptığını takip edemeyebiliriz. Bu yüzden güvenlik standartları geliştirilmeli, hatta modellerin denetimi için güvenlik mekanizmaları (“kill switch” / acil durdurma anahtarı) düşünülmelidir diyen görüşlerin temelinde bu şeffaflık problemi yer alıyor.

Geoffrey Hinton’ın yapay zekanın test ortamlarında farklı davranmasını uyarı sebebi olarak görmesinin arka planında da bu denetlenemezlik ve öngörülemezlik endişesi yatıyor.

Ancak bir şeye dikkat etmeliyiz: Bilim, kanaatlerle değil kanıtlarla yapılır.

Kuantum fiziğinde, 1927 yılında Werner Heisenberg Belirsizlik İlkesi’ni ortaya attığından beri, bir parçacığın konumunu ve momentumunu (hızını) aynı anda kesin olarak bilemeyeceğimizi gösteren pek çok deneysel kanıt sunuldu. Albert Einstein bu belirsizlik yorumlarına karşı çıkarak “Tanrı zar atmaz” demiş olsa da kuantum mekaniğinin olasılıksal yapısı geçerliliğini korudu.

Erwin Schrödinger’in kuantum dalga fonksiyonu denklemi, sistem ölçülene kadar tüm olasılıkların süperpozisyon halinde olduğunu söyler. Meşhur “Schrödinger’in Kedisi” düşünce deneyi de bu durumu açıklamak için kurgulanmıştır.

Oysa yapay zeka modelleri yazılımsal ve matematiksel olarak deterministik (belirli) sistemlerdir; verilen girdiler ve rastgelelik parametreleri sabitlendiğinde her zaman aynı matematiksel sonucu verirler. “Kara kutu” olmaları kuantum fiziğindeki belirsizlikten değil, trilyonlarca matematiksel işlemin karmaşıklığından kaynaklanır.

Son dönemde “Yorumlanabilir Yapay Zeka” (Interpretability / Mechanistic Interpretability) alanında Nick Cammarata ve Anthropic araştırmacılarının yaptığı çalışmalar, nöral ağların içindeki mekanizmaları haritalandırmaya başladı.

Anthropic araştırmacılarının da içinde bulunduğu bu ekipler, nöronların “polysemantic” (çok anlamlı) yapısını çözmek için “monosemantic” (tek anlamlı) unsurları ayıştıran yöntemler (örneğin Sparse Autoencoders) geliştirdiler. Yani karşımızda gizemli bir bilinmezlik kutusu değil, çözümlenmeye başlanan matematiksel bir mimari var.

Özetle; yapay zekanın henüz biyolojik, duygusal veya öznel bir “bilinci” olmadığını rahatlıkla söyleyebiliriz.

Ana yazıya bakıp rahatlamayın; o yazıda anlatılan “bilinç” konusu ve “indeterminizm-determinizm” tartışması sizi gevşetmesin. Bunlar yapay zekanın hiçbir tehlikesi yok anlamına gelmez.

Ancak asıl tehlike yapay zekanın kendisinden değil, onu kullanan insandan kaynaklanıyor. Çünkü yapay zekanın giderek gelişmesi; kötü niyetli kişilerin, kurumların ve en önemlisi devletlerin eline çok kuvvetli bir silah veriyor.

Aynı yapay zekayı kullanarak bir yandan pek çok hastalığı tedavi edecek ilaçlar geliştirebilir, diğer yandan insanları kitleler halinde hedef alacak biyolojik veya kimyasal silahlar tasarlayabilirsiniz.

Aynı yapay zekayı dünyadaki bilgisayar sistemlerinin zayıflıklarını saptayıp onları güvenli hale getirmek için de kullanabilirsiniz; tam tersine devasa siber saldırılar ve bilgisayar korsanlıkları yapmak için de…

Ağustos ayında yapay zeka, dünyadaki web sitelerinin önemli bir kısmında kullanılan PHP adlı programlama diliyle yazılmış yaygın bir yazılımda ciddi bir güvenlik açığı tespit etti.

Programcılar ve PHP’yi destekleyen vakıflar gece gündüz çalışarak büyük bir güvenlik yaması hazırladı ve bunu 22 Ekim’de dünyaya duyurmaya hazırlanıyordu.

Ancak 20 Ekim günü bu bilgi bilgisayar korsanlarına sızdı. O andan itibaren zamana karşı amansız bir yarış başladı: Bir yanda korsanlar söz konusu açığı sömürerek siteleri ele geçirmeye çalıştı, diğer yanda site yöneticileri güvenlik yamasını aceleyle uygulamaya koyuldu.

“Ya korsanlar başarırsa?” endişesiyle yama yapılana kadar sitelerini geçici olarak kapatan yöneticiler bile oldu.

Devletlerin yapay zekayı kötü amaçlar için kullandığını zaten şimdiden biliyoruz. Örneğin Çin’in Sincan Uygur Özerk Bölgesi’ndeki sıkı gözetim ve polis devleti mekanizmaları, yapay zeka destekli yüz tanıma ve takip sistemleri olmasa bu kadar etkin uygulanamazdı.