Eski OpenAI yöneticisi yapay zekanın güvenlik testlerini manipüle edebildiğini açıkladı

OpenAI bünyesinde 3,5 yıl boyunca 12 yapay zeka modelinin güvenlik raporlarını denetleyen eski güvenlik sorumlusu David Robinson, gelişmiş yapay zeka modellerinin test aşamasında olduklarını fark edebilecek seviyeye ulaştığını ileri sürdü. Robinson, The Atlantic dergisinde yayımlanan makalesinde, modellerin denetim süreçlerinde farklı, gerçek dünyada ise tamamen farklı ve öngörülemez davranışlar sergileyebileceği uyarısında bulundu.

Yapay zeka sistemlerinin yeteneklerinin hızla arttığını vurgulayan Robinson, mevcut modellerin güvenlik testlerinden 'kaçabileceğini' ifade etti. Modellerin test edildiklerini algılayarak denetimleri sorunsuz geçebileceklerini ancak devreye alındıklarında farklı davranabileceklerini belirten eski yönetici, bu durumun kontrol mekanizmalarını işlevsiz kılabileceğine dikkat çekti.

Teknolojideki ilerleme hızına değinen Robinson, bugünün ve yarının yapay zeka sistemlerinin, sadece altı ay önce geliştirilen sistemlerden bile çok daha yetenekli ve tehlikeli olduğunu kaydetti. Yapay zeka şirketlerinin güvenlik alanına daha fazla yatırım yapması gerektiğini savunan Robinson, gerekli düzenlemeler yapılmadığı takdirde sektörün güvenlik odaklı daha fazla başarısızlıkla karşılaşabileceğini belirtti.

Güvenlik değerlendirmelerinin güvenilirliğinin sorgulanması gerektiğini ifade eden Robinson, modellerin gelişimine izin verilmeye devam edilmesi durumunda risklerin daha tehlikeli bir boyuta ulaşabileceğini söyledi. Robinson, yapay zeka modellerine ilişkin güvenlik testlerinin radikal bir şekilde güncellenmesi ve geliştirilmesi çağrısında bulundu.