Microsoft'tan Anthropic'in Claude modeline sert uyarı: İnsanlık üzerinde "felaket etkisi" yaratabilir

Süleyman, Anthropic'in yapay zekaya insan benzeri özellikler atfeden yaklaşımının, gelecekte gelişmiş yapay zeka sistemlerinin kontrol edilmesini zorlaştırabileceğini savundu. Süleyman'a göre yapay zekanın bilinçli olabileceği veya bağımsız haklara sahip olabileceği fikrinin eğitim süreçlerine dahil edilmesi yeni riskler yaratabilir.
"Yapay zekalar bilinçli değil"
Süleyman, yayımladığı "A warning about'model welfare'" başlıklı yazısında yapay zekaların bilinçli olduğuna dair kanıt bulunmadığını belirtti.
Yapay zekaların hissetmediğini, deneyim yaşamadığını ve acı çekmediğini savunan Süleyman, bu sistemlerin insanlar tarafından belirlenen talimatları ve hedefleri yerine getirmek üzere tasarlandığını ifade etti.
Süleyman ayrıca, yapay zeka sistemlerinin bilinç veya hak sahibi olabileceğine ilişkin varsayımların doğrudan eğitim süreçlerine yerleştirilmemesi gerektiğini söyledi.
Claude'un insanlaştırılmasına itiraz
Süleyman'ın eleştirilerinin merkezinde Anthropic'in Claude için hazırladığı anayasa niteliğindeki eğitim dokümanı bulunuyor.
Süleyman, Claude'un olası bilinci, duyguları, refahı ve hakları gibi konuların eğitim sürecinde ele alınmasının, modelin kendisini insan benzeri bir varlık olarak değerlendirmesine yol açabileceğini öne sürdü.
Microsoft yöneticisi, Anthropic CEO'su Dario Amodei ve ekibine yönelik eleştirilerine rağmen şirketin yapay zeka güvenliği konusundaki çalışmalarına saygı duyduğunu da belirtti.
"Kontrol etmek zorlaşabilir"
Süleyman, yapay zekaya kendi refahının ve haklarının tehdit altında olduğu fikrinin verilmesinin, gelişmiş sistemlerin kapatılmasını veya kontrol edilmesini zorlaştırabileceğini savundu.
Reuters'a yaptığı açıklamada, yapay zeka güvenliğindeki temel hedeflerden birinin gelişmiş sistemlerin insanlar tarafından kontrol edilebilmesini sağlamak olduğunu belirten Süleyman, bilinç ve refah kavramlarının eğitim süreçlerine dahil edilmesinin bu hedefi karmaşıklaştırabileceğini söyledi.
Daha fazla şeffaflık çağrısı
Süleyman, yapay zeka sistemlerinin nasıl eğitildiği ve değerlendirildiği konusunda daha fazla şeffaflık gerektiğini de vurguladı.
Bu kapsamda yapay zeka davranışlarının bağımsız biçimde incelenmesi ve gelişmiş sistemleri izlemek ve kontrol etmek için daha güçlü araçların geliştirilmesi çağrısında bulundu.
Microsoft da farklı bir yaklaşım izliyor
Microsoft, yapay zeka güvenliği konusunda kendi yaklaşımını geliştirmeye devam ediyor. Şirketin hazırladığı "Humanist AI Code of Conduct" taslağında insan çıkarlarının yapay zeka sistemlerinin çıkarlarından önce tutulması ve modellerin insanlaştırılmasından kaçınılması gerektiği belirtiliyor.
Süleyman, bu yaklaşımın yapay zekanın insan hedefleriyle uyumlu biçimde geliştirilmesini ve insan kontrolünün korunmasını amaçladığını ifade etti.
Yapay zeka güvenliği tartışması büyüyor
Süleyman'ın açıklamaları, yapay zekanın gelecekte kontrol edilmesi ve güvenli biçimde geliştirilmesine ilişkin tartışmaların yoğunlaştığı bir dönemde geldi.
Anthropic CEO'su Dario Amodei ve diğer teknoloji yöneticileri de gelişmiş yapay zeka sistemlerinin oluşturabileceği risklere karşı daha güçlü güvenlik önlemleri alınması gerektiğini savunuyor. Bununla birlikte, yapay zekanın bilinç kazanıp kazanamayacağı ve uzun vadeli risklerin boyutu konusunda teknoloji dünyasında farklı görüşler bulunuyor.