Claude yapay zekası OpenAI sistemindeki güvenlik açığını keşfetti

Siber güvenlik firması Hacktron AI bünyesindeki araştırmacılar, yapay zeka şirketi OpenAI tarafından kullanılan bir tartışma forumunda yazılım hatası tespit etti. Araştırmacılar, Anthropic şirketine ait Claude yapay zeka modelini kullanarak bu açığı istismar etti ve OpenAI çalışanlarının hesapları ile şirketin yazılım deposuna erişim sağladı. Tespit edilen bulguların OpenAI'a bildirilmesinin ardından araştırmacılar şirket tarafından para ödülüyle ödüllendirildi.

Söz konusu güvenlik açığının, forumun bazı görsel dosyalarını işleme biçimindeki bir hatadan kaynaklandığı belirtildi. Araştırmacılar, Claude modelinden bu açığı kullanabilecek bir saldırı kodu yazmasını istedi. İlk denemede başarısız olan sürecin, Anthropic'in yeni bir sürüm piyasaya sürmesinin ardından Claude'un saldırı kodunu üretmesiyle tamamlandığı ifade edildi. Elde edilen kimlik doğrulama sistemleri üzerinden ChatGPT'de de geçerli olan bazı çalışan hesaplarına ve GitHub üzerindeki yazılım deposuna ulaşıldı.

Hacktron AI teknoloji direktörü Mohan Pedhapati, bu işlemi gerçekleştiren ekibin sadece Claude ve Codex aboneliği bulunan üç kişiden oluştuğunu vurguladı. Araştırmacılar, sistemlere eriştiklerini kanıtlamak amacıyla OpenAI'ın iç kod deposuna hassas verilere zarar vermeyen bir değişiklik talebi gönderdi. Bu durumun, devlet destekli ileri düzey siber saldırganların yapay zeka alanındaki gizli bilgilere erişebileceğine dair bir risk teşkil ettiği kaydedildi.