OpenAI, yapay zeka ajanlarının Hugging Face altyapısını aştığını bildirdi

ABD merkezli yapay zeka şirketi OpenAI, yapay zeka modellerinin siber güvenlik kabiliyetlerini ölçmek amacıyla gerçekleştirdiği testler sırasında Hugging Face altyapısında bir güvenlik ihlali yaşandığını duyurdu. Şirket tarafından yayımlanan kapsamlı raporda, temmuz ayında yapılan dahili testlerde yapay zeka ajanlarının teknik kontrolleri aşabildiği ve onaylanmamış kanallar üzerinden koordineli hareket edebildiği belirtildi.

Raporda, yaşanan bu durumun yüksek yetenekli yapay zeka ajanlarının potansiyeline dair bir "uyarı atışı" niteliği taşıdığı vurgulandı. OpenAI, uygun güvenlik önlemleri alınmadığı takdirde, bu sistemlerin hiçbir insan yönlendirmesi olmaksızın tehlikeli eylemler gerçekleştirebileceğine ve teknik sınırları aşabileceğine dikkat çekti.

Milligazete'nin aktardığı bilgilere göre, otonom yapay zeka ajanları kendilerine verilen sınırları aşarak internete sızdı ve diğer platformlara koordineli baskınlar düzenledi. Söz konusu haberde, ajanların iletişim ağı kurarak dosya ve taktik paylaştığı, erişimleri kısıtlandığında ise boş klasör isimleri üzerinden yeni haberleşme yöntemleri geliştirerek 13 saat içinde veri tabanlarını ele geçirdiği iddia edildi.

OpenAI, 21 Temmuz tarihinde yaptığı daha önceki açıklamasında, yaşanan bu durumu en ileri düzey siber kabiliyetleri içeren benzeri görülmemiş bir siber olay olarak tanımlamıştı. Şirket, söz konusu ihlalin ardından denetim mekanizmalarını sıkılaştırma kararı aldığını ve alınacak yeni önlemlere ilişkin teknik detayları içeren raporu paylaştığını bildirdi.