OpenAI'ın kullanıcı sohbetlerini yüzlerce çalışanın incelediği iddia edildi

OpenAI şirketine ait olduğu öne sürülen yeni belgeler, ChatGPT kullanıcılarının yapay zeka ile gerçekleştirdiği gerçek sohbetlerin, sistemi geliştirmek amacıyla yüzlerce insan çalışan tarafından incelendiğini ortaya koydu. 404 Media tarafından aktarılan bilgilere göre, 'Project Lily' kod adıyla yürütülen bu süreçte çalışanlar, yapay zekanın verdiği yanıtları doğruluk, üslup ve davranış kriterlerine göre puanlıyor.

İnceleme ekiplerinin temel odak noktalarından birinin, yapay zekanın kullanıcıyı asılsız şekilde onaylama eğilimi olarak tanımlanan 'sycophancy' davranışını azaltmak olduğu belirtiliyor. Uzmanların, modelin yanıt verme kalitesini artırmak ve hatalı davranışları engellemek için kullanıcı istemlerini ve diyaloglarını tek tek değerlendirdiği ifade ediliyor.

Veri gizliliği konusunda ciddi iddialar da raporlarda yer alıyor. OpenAI'ın kullanıcı isimlerini ve tanımlayıcı bilgileri sistemden temizleyerek anonimleştirme adımları attığı belirtilse de, sızan belgeler hassas kişisel verilerin her zaman tamamen maskelenemediğini öne sürüyor. Bazı durumlarda denetçilerin yalnızca tek bir soru-cevap çiftini değil, kullanıcı ile yapay zeka arasındaki tüm konuşma geçmişini görüntüleyebildiği iddia ediliyor.

ChatGPT'de bulunan 'Herkes için modeli iyileştir' ayarının etkinleştirilmesi durumunda, verilerin doğrudan OpenAI tarafından incelenmesine izin verildiği hatırlatılıyor.