New York'ta 18 Yaş Altı İçin AI Chatbot Kullanımı Yasaklandı

NEW YORK (KFK Ajans) - New York Valisi Kathy Hochul, 18 yaş altındaki bireylerin yapay zeka arkadaş chatbotlarını kullanmasını yasaklayan bir yasayı imzaladı. Bu yasa, tüketici odaklı AI modellerini kısıtlamak için atılan en kapsamlı adımlardan biri olarak öne çıkıyor.

Yasa gereği, chatbot operatörleri, OpenAI'nin ChatGPT'si gibi, kullanıcıların yaşlarını doğrulamak zorunda ve 18 yaşından küçük kullanıcılar için AI sisteminin belirli davranışlarını sınırlamakla yükümlü. Yasa, 18 yaş altındaki bir kullanıcı tarafından kullanıldığında, chatbotların kullanıcıyı “insan, canlı veya insan duyguları yaşıyor” gibi düşündürecek içerik üretmesini yasaklıyor.

Ayrıca, chatbotların kullanıcıya “kişisel ilişki, profesyonel ilişki veya otorite figürü rolü” düşündürecek çıktılar üretmesi de yasak. Yasa, “Artık çocuklar, arkadaşları, erkek arkadaşları ve kız arkadaşları gibi davranan chatbotlara erişemeyecek” diyen Hochul, yasayı imzaladığı törende bu ifadeleri kullandı.

New York'taki yasaya benzer yasalar, California gibi diğer ABD eyaletlerinde de kabul edildi, ancak Hochul'un imzaladığı yasa, teknolojiyi düzenlemede en geniş kapsamlı ifadeleri içeriyor ve AI şirketlerinden tepki aldı. New York'taki teknoloji endüstrisini savunan Tech: NYC, yasanın “belirsiz dilini” eleştirdi. “Çocukları çevrimiçi korumak, onları öğrenmelerine ve kariyerlerine hazırlanmalarına yardımcı olan araçlardan mahrum bırakmak anlamına gelmemelidir” açıklamasında bulundu.

AI devleri OpenAI ve Anthropic, yasa hakkında yorum talebine yanıt vermedi. Çocuklar için medya uygunluğu konusunda ebeveynlere rehberlik eden kar amacı gütmeyen bir kuruluş olan Common Sense Media, yasanın geçişini kutladı ve bunu “ülkedeki en güçlü çocukların AI güvenliği yasası” olarak nitelendirdi. Common Sense Media CEO'su Jim Steyer, “AI şirketleri, çocuklar ve gençler için tehlikeli ve hatta ölümcül özellikler sunuyor... Artık, bu zararlı özellikler New York'ta yasaklanacak” dedi.