Uzmanlar Uyarıyor! Bu bilgileri yapay zekayla paylaşmayın

Ad, adres, telefon numarası ile sosyal güvenlik ve pasaport numaraları hiçbir sohbet botuna asla yazılmamalı.

'Bare Knuckles and Brass Tacks' adlı siber güvenlik podcastinin ortak yapımcıları George Kamide ve George Al-Koura, kimlik bilgilerinin sohbet botlarına yazılmasının kayıt altına alınma ve kötüye kullanılma riski taşıdığını belirtiyor. İkiliye göre ad, ev adresi, telefon numarası, sosyal güvenlik numarası(TC kimlik numarası), pasaport ve ehliyet bilgileri gibi veriler, bir kez paylaşıldıktan sonra şirket sunucularında ne kadar süre tutulacağı kullanıcı tarafından tam olarak bilinemiyor.

Elon Üniversitesi Dijital Geleceği Hayal Etme Merkezi Direktörü Lee Rainie de bu tür bilgilerin loglanma veya işlenme sürecinde kimlik hırsızlığı riskine kapı araladığını vurguluyor. Uzmanlara göre bu veriler bir güvenlik açığında ele geçirilirse, kullanıcı adına sahte hesap açılmasından dolandırıcılığa kadar pek çok kötüye kullanım senaryosu ortaya çıkabiliyor.

Düşünceler, ilişkiler ve ruh sağlığıyla ilgili mahrem detaylar ise sohbet botlarında hukuki koruma altında değil

Al-Koura, yapay zeka sohbet botlarının insan benzeri bir iletişim biçimi sunması nedeniyle kullanıcılarda yanlış bir güvenlik algısı oluşturduğunu söylüyor. Ona göre kullanıcılar düşüncelerini, davranışlarını, ruhsal durumlarını ve ilişkilerini bir arkadaşa anlatır gibi paylaşıyor; oysa bu konuşmalar bir terapistle yapılan görüşmenin sahip olduğu yasal gizlilik korumasından yoksun.

IAPP Yapay Zeka Yönetimi Merkezi Genel Müdürü Ashley Casovan, bu nedenle sohbet botlarının özel bir günlük değil, yarı kamusal bir alan olarak görülmesi gerektiğini savunuyor. Casovan, mahrem içerikli bir sohbetin ilerleyen bir tarihte hukuki bir sürece delil olarak sunulabileceğine de dikkat çekiyor.

KFF'nin 2024 anketine göre yetişkinlerin altıda biri sağlık tavsiyesi almak için düzenli olarak yapay zekaya başvuruyor

Emory Üniversitesi Human-Algorithm Collaboration Lab Direktörü Dr. Ravi Parikh, genel amaçlı sohbet botlarının hasta mahremiyetini koruyan HIPAA gibi yasal düzenlemelere tabi olmadığını hatırlatıyor. Parikh'e göre kullanıcılar semptomlarını, teşhislerini veya ilaç kullanımlarını bu botlara yazdığında, veriler tıbbi bir kurumun güvencesi olmadan işleniyor.

Uzmanlar ayrıca sohbet botlarının verdiği sağlık yanıtlarının doğruluğunun her zaman garanti edilemediğini vurguluyor. Buna rağmen KFF'nin 2024 yılında yaptığı ankete göre yetişkinlerin yaklaşık altıda biri, ayda en az bir kez sağlıkla ilgili bir soruyu yapay zeka sohbet botuna soruyor.

İç raporlar, müşteri verileri ve kaynak kodları da model eğitimi için kayıt altına alınabiliyor

Uzmanlara göre çalışanların toplantı notlarını, müşteri listelerini, yazılım kaynak kodlarını veya gizlilik sözleşmesiyle korunan belgeleri sohbet botlarına yapıştırması, farkında olmadan ticari sır ihlaline yol açabiliyor. Bu veriler bazı şirketlerin varsayılan ayarlarında model geliştirme amacıyla saklanabiliyor ve düzenleyici yükümlülüklerin ihlaline neden olabiliyor.

Nitekim Stanford İnsan Odaklı Yapay Zeka Enstitüsü'nün Ekim 2025'te yayımladığı bir araştırmaya göre OpenAI, Google, Anthropic, Amazon, Meta ve Microsoft'un altısı da kullanıcı sohbetlerini varsayılan olarak model eğitiminde kullanıyor; bazı şirketler bu verileri süresiz saklıyor.