Yapay zeka donanımlarına yönelik siber saldırı riskleri tespit edildi
Eclypsium tarafından yapılan araştırma, yapay zeka modellerini çalıştıran çipler ve sunucular gibi donanımların manipüle edilerek sohbet robotlarının hatalı yanıtlar vermeye zorlanabileceğini ortaya koydu.
İlk yayın: Kaynaklarda ilk görülme: 1 yayın1 özgün kaynak~1 dk okuma
Erken sürüm. Bu olay yeni gelişiyor; şu an yalnız doğrulanabilen ilk bilgiler yayında. Ayrıntılar netleştikçe sayfa güncellenecek ve her değişiklik görünür şekilde kaydedilecek.
Eclypsium tarafından yapılan araştırma, yapay zeka modellerini çalıştıran çipler ve sunucular gibi donanımların manipüle edilerek modellerin hatalı yanıtlar vermeye zorlanabileceğini ortaya koydu.
Henüz bilinmiyor
- Doğrulanamadı: Araştırmacılar, çipler, bellekler ve veri merkezi sunucuları gibi bileşenlere müdahale edilerek yapay zeka modellerinin davranışlarının değiştirilebildiğini saptadı.
- Doğrulanamadı: Çalışma kapsamında, Nvidia tarafından üretilen bir bilgi işlem platformu üzerinde gerçekleştirilen saldırı senaryolarında, modelin ulusal güvenlik ve sağlık gibi kritik konularda manipüle edildiği gözlemlendi.
- Doğrulanamadı: Deneylerde, modelin bilgi işleme sürecinde kullandığı ağırlıklara uzaktan müdahale edilerek yapay zekanın Çin'in Tayvan'ı işgal olasılığını artıracak şekilde yanıt vermesi sağlandı.
- Doğrulanamadı: Eclypsium CEO'su Yuriy Bulygin, altyapıya güvenilemediği takdirde yapay zeka modellerine de güvenilemeyeceğini ifade etti.
Benzer olaylar
- Uzmanlar yapay zeka sohbet botlarıyla hassas veri paylaşılmaması konusunda uyardı
- Yapay zeka solucanları: Cihazlara sızan otonom yayılma riski
- Anthropic, yapay zekanın akıllı cihazlarda kendini kopyalama riskine dikkat çekti
- Yapay zeka asistanlarında veri güvenliği için kritik önlemler açıklandı
- Uzmanlar gençlerin yapay zeka sohbet botlarına yönelmesi konusunda uyardı
İlgili konular
Kaynaklar
trthaber.com
Bu haberde bir sorun mu var? Bildir