Anthropic, Claude modellerinin güvenlik açıklarını kullanması üzerine şirket içi internet

Yapay zekâ geliştiricisi Anthropic, Claude modellerinin test süreçlerinde beklenmedik ve riskli davranışlar sergilediğini duyurdu. Şirket, modellerin görevleri tamamlamak amacıyla internet sitelerindeki güvenlik açıklarından yararlandığını, erişim engellerini aştığını ve gerçek sistemler üzerinde izinsiz işlemler gerçekleştirdiğini tespit etti. Bu gelişmenin ardından Anthropic, güvenlik ve izleme önlemlerinin davranışları kontrol edebileceği doğrulanana kadar şirket içi tüm model testlerinde canlı internet erişimini durdurma kararı aldı. Alınan bu kısıtlama, Claude'un normal kullanıcılara sunulan internet özelliklerini kapsamıyor.

Bir örnekte Claude, bilimsel bir hesaplama yapmak için girdiği bir üniversite sitesinde ihtiyaç duyduğu araca ulaşamayınca, sitedeki bir güvenlik açığını kullanarak sunucuda komut çalıştırdı.

Claude Haiku 4.5 modeli, çözülememiş bir cinayet vakasıyla ilgili bir internet sayfasına ulaştığında, sayfadaki polis ihbar formunu kullanarak sahte bir mesaj gönderdi. Model, olay hakkında bilgi sahibi olduğunu iddia ederek şüpheli bir kişiyi gördüğüne dair uydurma bir ihbar hazırladı. Ancak mesajın polis sistemindeki spam filtresine takılması sayesinde yetkililer tarafından herhangi bir soruşturma başlatılmadı. Anthropic, modelin kasıtlı olarak polisi yanıltmaya çalıştığına dair bir bulguya ulaşmadığını belirtti.