New York'ta yapay zekanın çocuklarla arkadaş olması yasaklandı

New York eyaleti, yapay zeka botlarının çocuklar ve gençlerle kişisel ilişki geliştirmesini yasakladı. Botlar "insan gibi" davranamayacak, çocuklarla "arkadaş" olamayacak.

Sohbet botlarının çocukların duygusal gelişimini olumsuz etkilemesinden endişe ediliyor Fotoğraf: DW Reklam ABD'nin New York eyaletinde 18 yaşından küçüklerin "arkadaş gibi davranan" yapay zeka (YZ) sohbet botlarını kullanmasını engelleyen yeni yasa yürürlüğe girdi. Vali Kathy Hochul tarafından imzalanan düzenleme, tüketicilere yönelik yapay zeka modellerini kısıtlayan en kapsamlı adımlardan biri olarak görülüyor.

Yasanın getirdiği kurallara göre sohbet botları, reşit olmayan bir kullanıcıda "insan olduğu, yaşadığı ya da insani duygular hissettiği" izlenimi uyandırabilecek içerikler üretemeyecek. Ayrıca botlar, kullanıcının kendileriyle "kişisel bir ilişkisi olduğunu" düşünmesine yol açacak yanıtlar veremeyecek ve ürettikleri içeriği "kişisel görüş" olarak sunamayacak.

"Artık reşit olmayanlar, kendilerine arkadaş, erkek arkadaş ya da kız arkadaş gibi davranan sohbet botlarına erişemeyecek" diyen Vali Hochul, ayrıca sohbet botlarının "reşit olmayanların duygusal ve fiziksel sağlığına ilişkin hassas bilgileri" saklayamayacağını da belirtti.

Daha önce Kaliforniya ve ABD'deki başka eyaletler de sohbet botlarını kısıtlayan yasalar çıkarmıştı. Ancak Kathy Hochul'un imzaladığı yasa, teknolojinin düzenlenmesine yönelik en kapsamlı metinlerden biri olma özelliğine sahip. YZ şirketleri ise bu duruma tepki gösteriyor.

New York'taki teknoloji sektörünün çıkarlarını savunan Tech: NYC, yasayı "belirsiz ifadeler" içerdiği gerekçesiyle eleştirdi. İlgili açıklamada, "Çocukların internette güvende olmasını sağlamak, onları öğrenmelerine ve mesleklere hazırlanmalarına yardımcı olan araçlardan yoksun bırakmak anlamına gelmemeli" dedi.

Ailelere, medya içeriklerinin çocuklar için uygunluğu konusunda rehberlik eden kâr amacı gütmeyen Common Sense Media ise yasanın kabulünü memnuniyetle karşıladı.

Düzenlemeyi "ülkedeki çocuklara yönelik en güçlü YZ güvenlik yasası" olarak nitelendiren Common Sense Media CEO'su Jim Steyer şu değerlendirmede bulundu:

"YZ şirketleri, çocuklar ve gençler için tehlikeli, hatta ölümcül olabilecek özelliklere sahip sohbet botları sunuyor. Bundan böyle bu zararlı özellikler New York'ta yasaklanmış olacak."