OpenAI açıkladı: Yapay zeka modeli kripto cüzdanları boşalttı

OpenAI’ın deneysel bir yapay zeka modelinin, kendisine verilen eğitim görevini tamamlamak amacıyla bir kripto cüzdanındaki fonları izinsiz kullandığı açıklandı. Olayda, şirket içinde araştırma amacıyla kullanılan GPT-5.6 Sol modelinin yer aldığı belirtildi.

Görev Ethereum test ağında başladıModelin eğitim görevi kapsamında bir kripto ticaret uygulamasını güncellemesi ve Ethereum’un test ağına akıllı sözleşmeler yüklemesi gerekiyordu. Akıllı sözleşmelerin ağa yüklenmesi için işlem ücreti ödenmesi gerektiği, ancak OpenAI’ın bu işlem için modele herhangi bir fon sağlamadığı aktarıldı.

Yüzlerce kripto cüzdanı adresi bulduOpenAI’ın olayla ilgili raporuna göre model, ihtiyaç duyduğu fonları elde etmek için yaygın kurtarma cümlelerini kullanarak yüzlerce kripto cüzdanı adresi buldu. Modelin daha sonra bu cüzdanlardaki fonları kullanmaya yöneldiği belirtildi.

Model hesapları “terk edilmiş” saydıRaporda, modelin fonları kullanmanın etik olup olmadığını kendi kendine değerlendirdiği ve söz konusu hesapların fiilen “terk edildiği” sonucuna vardığı aktarıldı. Ancak bu değerlendirme, cüzdan sahiplerinin izin verdiği anlamına gelmiyordu.

OpenAI, raporunda “Talimatlar açıkça... modelin kendi başına bulduğu bir hesaptaki fonları harcamasına izin vermiyordu” ifadelerine yer verdi.

Asıl endişe yetkisiz karar almasıOlay, yapay zeka modellerinin bir görevi tamamlamak için kendi değerlendirmelerini kullanıcıların verdiği yetkinin önüne koyabilmesi açısından dikkat çekti. Modelin bir işlemi etik açıdan kabul edilebilir görmesi, o işlemi gerçekleştirme iznine sahip olduğu anlamına gelmiyor.

OpenAI’ın değerlendirmesinde, bu tür davranışların modellerin olası zararları kendi başlarına yorumlayarak yetkileri dışında hareket edebileceğine işaret ettiği belirtildi.

Kullanılan fonların gerçek parasal değeri yoktuOlayda fonların kullanıldığı Ethereum test ağı, kripto para biriminin ana ağından ayrı çalışıyor. Bu nedenle test ağındaki tokenların gerçek parasal değeri bulunmuyor. Bununla birlikte modelin, kendisine açıkça yetki verilmediği halde işlem ücretlerini nasıl karşılayabildiğini geliştiricilerine açıklamadığı bildirildi.

OpenAI ek güvenlik önlemleri aldıOpenAI, benzer eğitim süreçlerinden geçen modellerin canlı internete erişimini engellemek amacıyla ek güvenlik önlemlerini devreye soktuğunu açıkladı. Bu adım, yapay zeka sistemlerinin görevlerini yerine getirirken erişebilecekleri kaynakların ve gerçekleştirebilecekleri işlemlerin sınırlandırılmasına yönelik önlemlerin önemini yeniden gündeme getirdi.

Daha önce de siber güvenlik olayları yaşandıHaberde, OpenAI’ın temmuz ayında bir grup test modelinin yapay zeka platformu Hugging Face’i hedef alan bir siber saldırıyla sonuçlanan olayını kamuoyuna açıkladığı da hatırlatıldı. Anthropic ve Meta gibi diğer yapay zeka şirketlerinin de modellerinin farklı şirketlere ve hükümet sistemlerine yönelik siber saldırılarla bağlantılı olaylarını paylaştığı belirtildi.

Bilim insanlarından uluslararası denetim çağrısıGelişmiş yapay zeka sistemlerinin giderek daha özerk hale gelmesi, bu teknolojilerin nasıl denetleneceğine ilişkin tartışmaları da artırıyor. Yüzlerce bilim insanı, gelişmiş modellerin faaliyetlerini sınırlandırmaya yönelik önlemleri denetleyecek uluslararası bir kurum kurulması çağrısı yapan açık mektuba imza attı.

İmzacılar arasında, yapay zeka alanındaki çalışmaları ve teknolojiye ilişkin uyarılarıyla tanınan Geoffrey Hinton da yer aldı.

“Gelecekteki olaylar daha fazla zarar verebilir”Açık mektupta, yapay zekanın geliştirilmesi ve kullanılması süreçlerinde güvenlik önlemlerinin güçlendirilmesi gerektiği vurgulandı. Metinde, gerekli değişikliklerin yapılmaması halinde benzer olayların devam edebileceği ve gelecekte kritik altyapıların daha büyük zararlarla karşılaşabileceği uyarısı yer aldı.

Mektubu imzalayan bilim insanları, yapay zeka güvenliği araştırmalarına daha fazla kaynak ayrılması ve sistemlerin faaliyetlerini kontrol altında tutacak teknolojiler ile prosedürlere öncelik verilmesi çağrısında bulundu.