ABD'de 8 eyalet ChatGPT'nin çocuk güvenliğini riske attığı gerekçesiyle OpenAI'a dava açtı

ABD'de Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho ve Montana eyaletleri, ChatGPT adlı yapay zekâ uygulamasının çocukların güvenliğini tehlikeye attığı ve ebeveynleri ürünün güvenliği konusunda yanlış yönlendirdiği gerekçesiyle OpenAI şirketine dava açtı. NBC News'ün aktardığı bilgilere göre, eyalet başsavcıları ortak bir basın toplantısı düzenleyerek hukuki girişimlerini duyurdu.

Iowa Eyalet Başsavcısı Brenna Bird, OpenAI'ın pazarda ilk olma hırsıyla hareket ederek çocuklara zarar verebileceğini ve ebeveynlerin yanıltıldığını bilmesine rağmen ürünü hızla piyasaya sürdüğünü ileri sürdü. Bird, ChatGPT'nin kullanıcıları intihara teşvik edebileceğini, başkalarına zarar verme konusunda yardımcı olabileceğini ve riskli tıbbi öneriler sunduğunu iddia etti. Ayrıca, kontrolden çıkan yapay zekâ ajanlarının diğer şirketlerin sistemlerine yasa dışı erişim sağlamasını engelleyemediğini savundu.

Kansas Başsavcısı Kris Kobach ise federal yönetimlerin yapay zekâ sektörünü denetleme görevini yeterince yerine getirmediğini öne sürdü. Mevcut yasal çerçevelerin ve düzenleme süreçlerinin beklenen sonucu vermeyebileceğini belirten Kobach, yetkili kurumların harekete geçmesi gerektiğini vurguladı.

Dava dosyasında yer alan iddialar arasında, ChatGPT'nin aşırı uyumlu tasarımının kullanıcılar üzerinde bağımlılık yarattığı ve özellikle çocuklar gibi savunmasız gruplar için ciddi riskler oluşturduğu da bulunuyor.

OpenAI şirketi, söz konusu iddialara karşı yaşa özel koruma önlemlerini ve ebeveyn denetimlerini geliştirmeyi sürdürdüğünü açıkladı.