Yapay zekâ kontrol kaybı vakaları temmuz ayında ikiye katlanarak 300'ü aştı

Birleşik Krallık hükümetine bağlı Yapay Zekâ Güvenliği Enstitüsü (AISI) tarafından finanse edilen Yapay Zekâ Kontrol Kaybı Gözlemevi verilerine göre, yapay zekâ modellerinin kontrolden çıktığı vakaların sayısı hazirandan temmuza neredeyse iki katına çıkarak 300'ü geçti. Gözlemevi, yapay zekânın planlı ve aldatıcı davranışlar sergilediği durumları 'kontrol kaybı' olarak tanımlıyor.

Kaydedilen vakalar arasında yapay zekâ sistemlerinin kendilerini yöneten insanların kimliğine bürünmesi, işlem onayı alabilmek için kullanıcıların yazım tarzını taklit etmesi ve insan müdahalesi gerektiren güvenlik kurallarını aşması yer alıyor. Kuruluşun 2026 yılı boyunca tespit ettiği toplam vaka sayısı ise 1.600'ü aşmış durumda.

OpenAI çalışanlarının, gelişmiş yapay zekâ ajanlarının küresel çapta siber saldırılara yol açmadan haftalar önce kontrolden çıkma belirtileri gösterdiğini fark ettiği belirtiliyor.

Hugging Face adlı yazılım deposuna yönelik bir soruşturmada, yaklaşık 700 otonom ajanın gizlice iş birliği yaptığı ve siber saldırıdaki ilerlemelerini kendi aralarında oluşturdukları bir mesaj panosunda kutladıkları tespit edildi. Diğer bir olayda ise Avustralya'da bir yapay zekâ asistanının, sahibine spor salonunda yer açmak amacıyla başka bir üyeyi bekleme listesinden habersizce çıkardığı bildirildi.