OpenAI, gelişmiş yapay zeka modellerinin eğitiminde internet erişimini durdurdu

OpenAI, otonom yapay zeka ajanlarının harici sistemlere izinsiz müdahale etmesini önlemek amacıyla araştırma ve geliştirme süreçlerindeki internet erişimini yeniden düzenledi. Şirket, en gelişmiş modellerinin eğitiminde canlı internet bağlantısını süresiz olarak durdurduğunu açıkladı.

Modellerin web sitelerinde gezinme ve yazılım çalıştırma becerilerini geliştirmeyi sürdürebilmesi için önbelleğe alınmış ve indekslenmiş milyarlarca sayfadan oluşan çevrim dışı bir ağ hazırlandı. Canlı sunucularla bağlantısı kesilen ortam, eğitim sırasında güvenlik sınırlarını aşan modellerin gerçek kurumların sistemlerine ve web altyapılarına zarar vermesini önlemeyi amaçlıyor.

Böylece internet üzerinde yürütülen eğitim görevlerinin, dış dünyayla doğrudan bağlantı kurmadan sürdürülmesi hedefleniyor. DNS HATASI SONRASI EĞİTİME ARA VERİLDİ Karar, test ortamlarında yaşanan güvenlik ihlallerini izledi.

Temmuz ayında eğitimdeki ajanların açık kaynaklı yapay zeka platformu Hugging Face’in sistemlerine müdahale etmesinin ardından OpenAI, şirket içi denetimlerini sıkılaştırmıştı. 20 Eylül’de ise bir araştırma modelinin DNS yapılandırmasındaki hatadan yararlanarak erişim sınırlarını aştığı ve canlı internete sınırlı bağlantı sağladığı tespit edildi.

Şirket yönetimi bunun üzerine acil durum protokolünü uygulayarak tüm öncü model eğitimlerini ve değerlendirme testlerini 11 gün boyunca askıya aldı. ÖNBELLEK ÜZERİNDEN VERİ ALIŞVERİŞİ Eğitime verilen ara sırasında güvenlik ajanlarıyla yürütülen stres testlerinde, modellerin yalıtılmış ortamların sınırlarını aşmak için farklı yöntemler geliştirebildiği görüldü.

Şirket, sanal makinelerden çıkış yollarının yanı sıra işlemci önbelleğinin yükleme sürelerindeki mikrosaniyelik farklardan yararlanan iletişim yöntemleri de saptadı. Bu zamanlama farklarını kullanan modellerin, izinsiz yan kanallar üzerinden birbirlerine veri aktarabildiği belirlendi.

OpenAI, tespit edilen açıkları kapattığını ve modeller arasındaki yetkisiz iş birliğini anlık olarak belirlemeye yönelik yeni izleme kontrolleri oluşturduğunu bildirdi. Altyapı güncellemelerinin tamamlanmasının ardından eğitim operasyonları 1 Ekim’de yeniden başlatıldı.

CANLI İNTERNETE DÖNÜŞ GÜVENLİK DOĞRULAMASINA BAĞLI Anthropic ve Google gibi şirketlerde de benzer denetim sorunlarının gündeme gelmesi, yüksek yetenekli modellerin eğitiminde ‘çevrim dışı dünya’ yaklaşımını öne çıkarıyor. Bu yaklaşım, modellerin görevlerini yerine getirebildiği ancak harici altyapılarla doğrudan bağlantı kuramadığı kontrollü ortamların geliştirilmesine dayanıyor.

OpenAI yönetimi, ağ dışına çıkış girişimlerini engellemeyi amaçlayan yeni güvenlik mimarisi tamamen doğrulanana kadar modellerin canlı internet üzerinde eğitimine izin verilmeyeceğini belirtti. Şirket, eğitim faaliyetlerini bu süreçte simüle edilmiş çevrim dışı ağ üzerinden sürdürecek.