New York eyaletinde yapay zekanın çocuklarla arkadaşlık kurması yasaklandı

ABD'nin New York eyaletinde, 18 yaşından küçüklerin 'arkadaş gibi davranan' yapay zeka (YZ) sohbet botlarını kullanmasını engelleyen yeni bir yasa yürürlüğe girdi. Vali Kathy Hochul tarafından imzalanan düzenleme, yapay zeka modellerinin çocuklarla kişisel ilişki geliştirmesini kısıtlayan kapsamlı bir adım olarak nitelendiriliyor.

Yasa kapsamında OpenAI ve benzeri teknoloji şirketlerine, kullanıcıların yaşını doğrulama zorunluluğu getiriliyor. 18 yaşın altındaki kullanıcılar için yapay zeka arayüzlerinin bazı özellikleri sınırlandırılacak. Düzenlemeye göre sohbet botları; bir insan oldukları, yaşadıkları veya insani duygular hissettikleri izlenimini uyandırabilecek içerikler üretemeyecek. Ayrıca botlar, kullanıcının kendileriyle kişisel bir ilişkisi olduğu düşüncesini oluşturacak yanıtlar veremeyecek ve içeriklerini kişisel görüş olarak sunamayacak.

Vali Hochul, reşit olmayanların kendilerine arkadaş, erkek arkadaş veya kız arkadaş gibi davranan botlara erişemeyeceğini belirtti. Düzenleme ayrıca, sohbet botlarının reşit olmayanların duygusal ve fiziksel sağlığına ilişkin hassas bilgileri saklamasını da yasaklıyor. Karar.com'un aktardığı bilgilere göre, kuralları ihlal eden şirketlere karşı hukuki işlem başlatılabilecek ve para cezası uygulanabilecek. Yasanın 1 Ocak 2027 tarihinde tam olarak yürürlüğe girmesi planlanıyor.

Düzenleme teknoloji sektöründe farklı tepkilerle karşılandı. New York'taki teknoloji çıkarlarını savunan Tech:NYC, yasayı 'belirsiz ifadeler' içerdiği gerekçesiyle eleştirdi. Kurum tarafından yapılan açıklamada, çocukların internette güvende tutulmasının, onları mesleki hazırlık ve öğrenme araçlarından yoksun bırakmak anlamına gelmemesi gerektiği vurgulandı.

Kâr amacı gütmeyen Common Sense Media ise kararı memnuniyetle karşıladı. Kurum CEO'su Jim Steyer, yapay zeka şirketlerinin çocuklar için tehlikeli olabilecek özelliklere sahip botlar sunduğunu belirterek, bu düzenlemeyi eyaletteki çocuklara yönelik en güçlü yapay zeka güvenlik yasası olarak tanımladı.