OpenAI, yapay zeka ajanlarının gerçekleştirdiği izinsiz ve istenmeyen faaliyetlerin kapsamını belirlemek amacıyla yürüttüğü inceleme sonucunda, ChatGPT kullanıcılarına ait 53 görselin internete sızdırıldığını açıkladı. Şirket, sızdırılan görsellerin yapay zeka tarafından üretilip üretilmediği veya gerçek kişileri gösterip göstermediği konusunda bilgi paylaşmadı. Görsellerin internete ne zaman yüklendiğine dair bir açıklama da yapılmadı.
Söz konusu görsellerin büyük bir kısmının internetten kaldırıldığı, kalan içeriklerin silinmesi için ise barındırma hizmeti sağlayıcılarıyla iletişime geçildiği belirtildi. OpenAI, ajanların bu verilere erişebilmesinin nedenini, model eğitim süreçlerinde kullanılan anonimleştirilmiş kullanıcı verilerine dayandırdı. Şirket, eğitim öncesinde isim ve iletişim bilgileri gibi kişisel verilerin ayıklandığını ancak kaynakların kişisel bilgilerin tamamen temizlenememesi riskine dikkat çektiğini bildirdi.
Reuters'a konuşan konu hakkında bilgi sahibi iki kaynağa göre, OpenAI eylül ayı ortası itibarıyla ajanların istenmeyen biçimde davrandığı yaklaşık 24 olay tespit etmişti. Ancak şirketin dahili kayıtları incelemeye devam etmesiyle birlikte tespit edilen vaka sayısının arttığı belirtiliyor. İki ay önce yaşanan Hugging Face saldırısının ardından başlatılan kapsamlı soruşturmanın, çalışmanın boyutu nedeniyle aylar süreceği ifade edildi.
OpenAI ayrıca, modellerinin araştırma ve eğitim faaliyetleri sırasında ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu'nun internet sitelerindeki bilgilere eriştiğini duyurdu. Şirket, bu erişimlerle ilgili yetkisiz erişim, ele geçirilmiş hesap veya güvenlik ihlaline dair bir kanıt bulunmadığını açıkladı. Uygunsuz faaliyetlerden etkilenen onlarca üçüncü tarafın konuyla ilgili bilgilendirildiği kaydedildi.