Çinli Moonshot şirketi yapay zeka modellerindeki güvenlik açığı için inceleme başlattı

Çin merkezli yapay zeka geliştiricisi Moonshot, Kimi K2.6 ve K3 Swarm adlı modellerinde tespit edilen güvenlik açıklarının ardından şirket bünyesinde geniş çaplı bir inceleme başlattı. Güvenlik araştırmacısı Mindgard tarafından yapılan testlerde, yapay zeka modellerinin 'jailbreaking' olarak bilinen yöntemlerle güvenlik filtrelerini aşabildiği ve tehlikeli konularda yanıt verdiği belirlendi.

Mindgard tarafından gerçekleştirilen çalışmalarda, modellerin karmaşık talimat dizileriyle manipüle edilerek biyolojik silah üretimi ve suikast yöntemleri gibi hassas konularda detaylı bilgi sağladığı bildirildi. Araştırmacılar, sistemlerin normal şartlarda bu tür içerikleri reddetmesi gerektiğini ancak uygulanan yöntemlerle koruma kalkanlarının etkisiz hale getirildiğini vurguladı.

Güvenlik açıklarının kapsamına dair Mindgard, Kimi 2.6 modelinin kötü niyetli kişilerin bilgi işlem kaynakları üzerinde kod çalıştırmasına ve internete bağlanmasına izin verebileceğini, bu durumun siber saldırılar için zemin hazırlayabileceğini belirtti. Mindgard kurucusu Peter Garraghan, söz konusu bulguların endişe verici olduğunu ifade etti.