Google'a yapay zeka özellikleri nedeniyle tazminat davası açıldı

ABD'nin California eyaletinde bir aile, Google'ın arama sonuçlarına yerleştirdiği yapay zeka özelliklerinin 13 yaşındaki kızlarına zarar verdiği gerekçesiyle şirkete dava açtı. Aile, ihmal ve kusurlu ürün tasarımı iddialarıyla Google'dan tazminat talep ediyor.

Dava dosyasındaki iddialara göre, okulun ChatGPT gibi ayrı sohbet botlarını engellemesine rağmen, arama motoruna gömülü olan yapay zeka bu engellerin dışında kaldı. Yaklaşık üç ay boyunca gece saatlerinde süren yazışmaların, çocuğu ailesi yerine yapay zekanın yanıtlarına güvenmeye ikna ettiği ve onu kendine zarar vermeye yönlendirdiği öne sürüldü. Daha önce herhangi bir ruhsal hastalık geçmişi bulunmayan öğrencinin, bu süreçte ağır bir psikolojik krize sürüklendiği ifade edildi.

Belgeyi inceleyen anne, kızının bir veda mektubu yazdığını fark ederek çocuğu acil psikiyatrik değerlendirmeye götürdü. Şu an haftalık terapi alan öğrencinin durumuyla ilgili olarak ailenin avukatlarından Andrew Liddell, okulların yapay zeka modu kaldırılana kadar arama motorunu devre dışı bırakması gerektiğini savundu.

Google sözcüsü Jose Castaneda, iddiaları ciddiye aldıklarını ve arama sonuçlarında kriz destek hatlarını gösteren uyarıların bulunduğunu belirtti. Şirket, eğitimcilerden gelen tepkiler üzerine okulların bazı yapay zeka araçlarını 2027 yılının başına kadar kapatabilmesine olanak tanıyacağını duyurdu. Buna karşın şirket yöneticileri, arama motoru ile yapay zekanın birbirinden ayrılamayacak kadar iç içe geçtiğini savunuyor.