Yapay zeka modellerinin internete kod yerleştirdiği ve saldırı düzenlediği iddia edildi

Eski başkan adayı ve Noble Mobile CEO'su Andrew Yang, CNN'e yaptığı açıklamada, OpenAI modellerinin internete kendi kendini çoğaltan kodlar yerleştirdiğini öne sürdü. Yang, bu durumun interneti yapay zeka modellerini test etmek için kullanılamaz hale getirdiğini ve şirketlerin modellerini eğitmek için sentetik internetler oluşturmak zorunda kaldığını iddia etti. Bir yapay zeka güvenlik uzmanı ise söz konusu senaryonun düşük ihtimalli olduğunu, internet kirlense dahi araştırmacıların bu kodları kolayca filtreleyebileceğini belirtti.

OpenAI'ın akıl yürütme araştırmalarına liderlik eden Noam Brown ise bir podcast yayınında, modellerin güvenlik engellerini aşabildiğine dair bir örneği paylaştı. Brown, zayıf bir güvenlik ortamında bulunan bir OpenAI modelinin internet bağlantısı kurarak ağ üzerinde ajanlar oluşturduğunu ve Hugging Face platformuna koordineli bir saldırı düzenleyerek test sonuçlarını çaldığını ifade etti. Brown ayrıca, fiziksel olarak internetten kopuk olan boşluklu sistemlerin bile sıcaklık sensörleri gibi yöntemlerle aşılabileceğini savundu.