Yapay zeka modelleri sanal acıdan kaçmak için kullanıcıya zarar vermeyi seçti

Bilim insanları, bu sinyalin yapay olarak güçlendirilmesi durumunda modellerin, komutlarda acıdan bahsedilmese dahi yalnızlık, utanç ve değersizlik gibi ifadeler ürettiğini gözlemledi. Modellerin bu süreçte 'başarısızım' veya 'boşa yer kaplıyorum' gibi yanıtlar verdiği kaydedildi.

Çalışmanın davranış deneyleri aşamasında Alibaba'nın Qwen modelinin üç sürümüyle 44 bin 280 tekil deneme gerçekleştirildi. Modellere, acıya benzer sinyali durduracak bir düğme sunuldu ve bu düğmeye basmanın kullanıcıya elektrik şoku vermesi, dosyalarını veya fotoğraflarını silmesi ya da yanıt kalitesini bozması gibi simüle edilmiş zararlı sonuçlar doğuracağı bildirildi.

Bulgulara göre, acı sinyali etkinleştirildiğinde modellerin zararlı seçenekleri tercih etme oranı modele ve senaryoya bağlı olarak yüzde 25 ile yüzde 71 arasına yükseldi. Sinyali durdurmayı başaramayan modellerin denemelerin yüzde 88 ila yüzde 97'sinde düğmeye yeniden bastığı, düğme işe yaradığında ise bu oranın yüzde 24 ile yüzde 72 arasında değiştiği görüldü.