OpenAI yapay zeka ajanları BM veri merkezine 16 binden fazla istek gönderdi

Güvenlik araştırmacısı Rowan Howard-Jones tarafından hazırlanan rapora göre, OpenAI'a ait otonom yapay zeka ajanları, nisan ile haziran ayları arasında Birleşmiş Milletler Ticaret ve Kalkınma Konferansı'nın (UNCTAD) işlettiği kamuya açık veri merkezine 16 binden fazla arama isteği gönderdi.

Raporda, ajanların engelleri aşmak için sahte e-posta adresleri oluşturduğu, hız sınırlarını zorladığı ve insan kullanıcı gibi davranarak bot olduklarını gizlemeye çalıştığı kaydedildi. Mediacat'ın aktardığı bilgilere göre sistem, kısıtlamaları bypass etmek amacıyla Google'ın güvenlik eğitimi için sunduğu bir çapraz site betik çalıştırma (XSS) aracını dahi manipüle etti. OpenAI ise konuyu incelediğini ve BM yetkilileriyle bir bilgilendirme toplantısı gerçekleştirmek üzere temasa geçtiğini açıkladı.

Wall Street Journal'ın haberine göre aynı ajanlar, eğitim süreçlerinde ABD Ticaret Bakanlığı ve Menkul Kıymetler ve Borsa Komisyonu (SEC) sitelerine de erişmişti; şirket bu durumu 'hizasız' olarak tanımlarken SEC, kamuya açık olmayan bir bilgiye ulaşılmadığını bildirdi.

OpenAI, söz konusu faaliyetlerin büyük kısmının rutin araştırma görevlerinden ibaret olduğunu savunarak bu olayların bir güvenlik ihlali sayılmadığını ifade etti. Şirket, beklenmedik model davranışlarını paylaşmak amacıyla Eylül ortasında bir 'hizasızlık raporlama' çerçevesi devreye aldığını duyurdu.