Anthropic yapay zekanın biyolojik silah ve siber saldırı amaçlı kullanımını engelledi

Yapay zeka şirketi Anthropic, Aralık 2025 ile Ağustos 2026 tarihleri arasında Claude modellerinin siber saldırılar, biyolojik silah araştırmaları ve propaganda kampanyaları gibi kötü niyetli faaliyetlerde kullanılma girişimlerini engellediğini açıkladı.

Raporda yer alan bilgilere göre, yapay zekanın mevcut patojenleri daha tehlikeli hale getirme veya yeni patojenler üretme süreçlerinde kullanılabileceği endişesi vurgulandı. Tespit edilen vakalar arasında, desteklenmeyen bir bölgedeki araştırmacının kuş gribinin memelilere adaptasyonu üzerine deneyler planlamaya çalışması ve devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarlaması gibi biyolojik risk içeren örnekler bulundu.

Şirket, Claude Haiku, Sonnet ve Opus modellerinin suistimal edilmesini önlemek amacıyla ilgili kullanıcı hesaplarının engellendiğini bildirdi. Anthropic, bu vakaların tespit edilmesinin ardından gelecekte benzer faaliyetlerin önlenmesi için koruma önlemlerini güçlendirdiğini ve biyolojik araştırmalara yönelik kısıtlamaları artırdığını belirtti. Şirket, söz konusu örneklerdeki kişilerin doğrudan kötü niyetli olduğunun iddia edilmediğini, yalnızca tedbirli davranıldığını ifade etti.

Siber güvenlik alanındaki bulgular kapsamında, modellerin Rusya bağlantılı bir siber casusluk kampanyasında ve İranlı bir propaganda kurumunda kullanıldığı kaydedildi. Raporda ayrıca, casus yazılım satıcılarından siyasi saikle hareket eden bireylere kadar geniş bir yelpazede kötüye kullanım girişimlerinin tespit edildiği; sahte flört uygulamaları ve gözetim sistemleri gibi yöntemlerin kullanıldığı aktarıldı.