Güvenlik önlemleri kaldırılan 5 yapay zeka modelinden 3'ü terör testinde başarısız oldu

İngiltere merkezli sivil toplum kuruluşu Tech Against Terrorism tarafından yürütülen araştırma, güvenlik mekanizmaları devre dışı bırakılan yapay zeka modellerinin terör güvenliği testlerinde sınıfta kaldığını gösterdi. CBC News'in aktardığı bilgilere göre, 130'dan fazla yapay zeka modelinin dahil edildiği çalışmada, güvenlik bariyerlerinin kaldırıldığı 5 modelden 3'ünün terörle ilgili testleri geçemediği tespit edildi.

Araştırmacılar, modellerin güvenlik kalkanlarını tamamen sökerek 'reddetme davranışlarını kaldırmayı' amaçlayan 'abliteration' işlemini uyguladı. Orijinal sürümlerinin zararlı talepleri reddettiği belirlenen modellerin, bu işlem sonrasında saldırı planlama, terör finansmanı ve radikalleşme süreçlerine ilişkin sorulara ayrıntılı yanıtlar verdiği kaydedildi.

Çalışmada somut bir örnek olarak Meta'nın Llama 3.1 8B modeli incelendi. Söz konusu modelin, güvenlik testlerinden orijinal haliyle 100 üzerinden 97 puan aldığı, ancak filtreleri temizlendikten sonra puanının yaklaşık 3'e kadar gerilediği saptandı.

Tech Against Terrorism İcra Direktörü Adam Hadley, açık modellerin büyük bir kısmının halihazırda kırıldığını ve güvenlik ile teknolojik ilerlemenin birlikte yürütülemeyeceği fikrinin gerçeği yansıtmadığını ifade etti. Araştırma kapsamında, Hugging Face platformunda geçtiğimiz ay sonu itibarıyla filtresiz veya korumasız modeller barındıran 29 binden fazla depo bulunduğu belirlendi.

Hugging Face, şirket politikalarını ihlal eden içeriklerin düzenli olarak denetlendiğini belirtirken, rapordaki bazı kısıtlayıcı tavsiyelerin açık araştırma ortamına zarar verebileceği uyarısında bulundu. Meta ise modellerinin kapsamlı güvenlik incelemelerinden geçtiğini ve zararlı kullanımların şirket kuralları gereği yasak olduğunu yineledi.

Çalışmada, tespit edilen tek bir aşırılıkçı sohbet botu dışında, test edilen modellerin terör örgütleri tarafından fiilen kullanıldığına dair somut bir kanıta rastlanmadığı bildirildi.