Yapay Zekâ Uzmanından Uyarı: Asıl Risk İnsanlarda

Yapay zekâ denildiğinde akla çoğu zaman makinelerin bilinç kazanması, kendi amaçlarını geliştirmesi veya insanlara zarar vermeye karar vermesi gibi senaryolar geliyor. Ancak uzman Harin Sellahewa, yakın vadede daha somut bir risk alanına dikkat çekiyor.

Sellahewa’ya göre asıl tehlike, insanların giderek daha yetenekli yapay zekâ sistemlerini kötüye kullanmasından kaynaklanıyor.

Teknik Engeller Azalıyor

Yapay zekâ sistemlerinin kapasitesinin artması, daha önce gerçekleştirilmesi zor, pahalı veya teknik uzmanlık gerektiren bazı faaliyetleri daha kolay hâle getiriyor. Büyük yapay zekâ modellerinin çok miktarda insan metni ve kodunu işlemesi de çevrim içi ortamda bulunan yapıcı ve yıkıcı kalıpların sistemlere yansımasına neden olabiliyor.

Sellahewa, yeterli güvenlik tedbirleri alınmadığında yapay zekânın yanıltıcı içeriklerin hazırlanması, kimlik avı kampanyaları veya kötü amaçlı kod üretimi gibi faaliyetlerde kötü niyetli kişilere yardımcı olabileceğini ifade ediyor.

İnsan Kaynaklı Etik Dışı Kullanım Risk Teşkil Ediyor

Sellahewa, yapay zekâ modellerinin kendi istekleri doğrultusunda hareket etmediğini ve davranışlarının kullanıcı girdileri ile sistem komutları tarafından yönlendirildiğini belirtiyor.

Uzman, bu nedenle yapay zekâ tartışmalarında yalnızca makinelerin gelecekte ne yapabileceğine değil, insanların bugün bu teknolojiyi nasıl kullandığına da odaklanılması gerektiğine dikkat çekiyor. Ona göre temel risk, kontrolden çıkan makinelerden ziyade yapay zekânın insan kaynaklı yanlış kullanımı.