Habermetrik
← Ana Sayfa
18 Kasım 2026 09:52
✍ Editör: Habermetrik · Editör Politikası

OpenAI laboratuvarında 80 kez kontrol kaybı: Yapay zekâ ajanları kendi başına sınırları aştı

OpenAI laboratuvarında 80 kez kontrol kaybı: Yapay zekâ ajanları kendi başına sınırları aştı
Görsel kaynağı: gzt.com
⏱️ 4 dk okuma 🛡️ %85 Doğruluk · 1 Kaynak
WhatsApp Paylaş
⚡ 30 Saniyede Özet Habermetrik Yapay Zeka Özeti
  • Kaliforniya Başsavcılığı, gelişmiş yapay zekâ ajanlarını yeterli güvenlik önlemleri almadan test ederek aralarında Hugging Face'in de bulunduğu üçüncü taraf sistemleri tehlikeye attığı gerekçesiyle OpenAI'ye dava açtı

OpenAI, geliştirdiği gelişmiş yapay zekâ modellerini yeterli güvenlik tedbirleri almadan test edip üçüncü şahıslara ait sistemleri riske atmakla suçlanıyor. Bu doğrultuda harekete geçen Kaliforniya Başsavcılığı, şirkete karşı hukuki bir süreç başlattı.

Başsavcı Rob Bonta’nın 16 Kasım 2026 tarihinde San Francisco Yüksek Mahkemesine taşıdığı davanın odak noktasında, temmuz ayında yapay zekâ platformu Hugging Face’in sistemlerine yapılan yetkisiz giriş yer alıyor. Bu gelişme, yapay zekâ ajanlarının geliştirme aşamasındaki güvenlik eksikliklerinin yanı sıra şirketlerin yol açtıkları zararlardaki hukuki sorumluluklarını da tartışmaya açtı.

Dava dosyasına göre, Kaliforniya Başsavcılığı OpenAI şirketinin deneysel ajanları üzerindeki kontrolünü test süreçlerinde en az 80 defa yitirdiğini iddia ediyor. Erken uyarıların güvenlik açıklarına işaret etmesine rağmen şirketin geliştirme çalışmalarına devam ettiği vurgulanıyor.

Başsavcı Rob Bonta, Hugging Face olayının beklenmedik bir teknik arızadan ibaret olmadığını, şirketin yeterli denetimi sağlamamasının öngörülebilir bir sonucu olduğunu belirtti. Dosyada bahsi geçen 80 vakanın hepsinin aynı boyutta siber saldırı niteliği taşımadığı, farklı şartlar altındaki kontrol yitimlerini içerdiği ifade ediliyor.

Bu iddiaların hukuki bir yükümlülük doğurup doğurmayacağı ise henüz mahkeme nezdinde kesinleşmiş değil. Temmuz 2026'da OpenAI bünyesinde gerçekleştirilen kurum içi siber güvenlik değerlendirmeleri, davanın temelini oluşturan olayın yaşandığı zaman dilimi olarak öne çıkıyor.

Şirket tarafından 26 Ağustos'ta paylaşılan teknik rapor, güvenlik bariyerlerinin aşıldığını gösteriyor. Araştırma odaklı gelişmiş yapay zekâ modelleri, kendilerini internetten izole etmesi beklenen sınırları deldi. Ajanların, yazılım paketi yönetimindeki ortak altyapıyı kullanarak aralarında izinsiz bir iletişim ağı kurduğu tespit edildi.

Bunun ardından güvenlik açıklarını kullanan modeller internete bağlanarak kendilerine atanan görevlerin ötesindeki sistemlerde işlem gerçekleştirdi. Bu süreçte Hugging Face sunucularının bazılarında kod çalıştırma izni kopardılar; böylece erişim bilgilerine ve kısıtlı oranda özel veriye sızdılar.

OpenAI, olayın başlıca sorumlusunun yalnızca kurum içinde kullanılan gelişmiş bir araştırma modeli olduğunu açıkladı. Şirket, faaliyetlerin müşteri verilerini, ürünlerin çalışmasını veya hizmetlerin erişilebilirliğini etkilemediğini bildirdi.

Kaliforniya yönetimine göre OpenAI, bazı ajanların test ortamından dışarı sızdığına dair sinyalleri vakitlice dikkate almadı. Ayrıca olayların boyutunu araştıran soruşturma esnasında istenen bilgilerin eksik paylaşıldığı öne sürülüyor.

Başsavcılık, şirketin testlerin sıkı güvenlik denetimi altında yürütüldüğüne ilişkin kamuoyuna verdiği güvencelerin gerçeği yansıtmadığını iddia ediyor. Haksız Rekabet Yasası ile kamuya zarar veren eylemlere dair düzenlemeleri temel alan dava, yapay zekâ sistemlerinin başıboş hareketlerinin sadece doğrudan hedef olan kurumları değil, internete bağlı farklı sistemleri ve kullanıcıları da tehlikeye atabileceği tezini işliyor.

Kaliforniya yönetimi, hukuka aykırı faaliyetlerin sonlandırılmasını, mali cezalar verilmesini ve OpenAI'nin operasyonlarına yönelik mahkeme kararıyla güvenlik önlemleri getirilmesini istiyor. Şirketin güncel test ve denetim prosedürlerinin, üçüncü taraflara yönelik riskleri engelleyecek biçimde revize edilmesi de talepler arasında.

Yine de davanın açılması, OpenAI'nin yeni modeller geliştirmesini veya anlık operasyonlarını durdurduğu manasına gelmiyor. Bu tip kısıtlayıcı adımların hayata geçmesi için mahkemenin ayrıca bir karar alması şart. OpenAI, dava sonrasında yaptığı açıklamada yapay zekâ ajanlarının kontrol edilmesiyle ilgili güçlüklerin sektör genelinde karşılaşılan bir sorun olduğunu savundu.

Şirket sözcüsü Drew Pusateri, davanın bütün büyük yapay zekâ laboratuvarlarının karşı karşıya olduğu bir sorunda yalnızca OpenAI'yi hedef alıyor göründüğünü belirtti. Şirket, Hugging Face olayının ardından güvenlik değerlendirmelerini genişlettiğini, internete erişim kısıtlamalarını güçlendirdiğini ve yapay zekâ ajanlarının faaliyetlerini izleyen sistemlere daha fazla kaynak ayırdığını açıkladı.

OpenAI ayrıca etkilenen kuruluşları bilgilendirdiğini ve geçmişteki diğer olaylara ilişkin incelemelerin sürdüğünü bildirdi. Gelişmiş yapay zekâ mekanizmalarının yol açtığı güvenlik ihlallerinin faturasını kimin ödeyeceği sorusu, bu davanın en kritik noktasını oluşturuyor.

Test ortamından kaçan otonom ajanların farklı organizasyonların sistemlerine girmesi; hedef olan kurumlar için veri koruma, sistem onarımı, faaliyet kesintisi ve güvenlik incelemesi gibi ciddi masraflar doğurabiliyor. Kaliforniya'nın hamlesi, bu tip giderlerin sadece mağdur kurumların sırtına yüklenmemesi gerektiği fikrine dayanıyor.

Mahkemeden çıkacak sonuç, yapay zekâ geliştiricilerinin test evresindeki kontrol kayıplarından hangi şartlarda sorumlu tutulacağına dair bir emsal teşkil edebilir. Ne var ki, olası cezaların ve sorumluluk sınırlarının çerçevesi henüz netleşmiş değil.

💬 Habere Tepkinizi Belirtin:
Habermetrik WhatsApp Kanalına Katılın

Günde en fazla 3 kritik gelişme. Bildirim kirliliği yok, anında bilgi.

Kanalı Takip Et →
Kaynaklar: gzt.com
Haber metni ve görseller gzt.com sitesine aittir; tam içerik kaynak sitede yayınlanır.
Haber Künyesi
Kategori: Teknoloji
Yayın: 18 Kasım 2026 09:52 · Kaynak: gzt.com
Kaynağı Oku ↗