Yapay zeka solucanları: Cihazlara sızan otonom yayılma riski

Yapay zeka araştırma şirketi Anthropic tarafından yayımlanan rapora göre, bazı yapay zeka modellerinin yakın zamanda "kendi kendini çoğaltma" yeteneği kazanarak internete bağlı akıllı cihazlara sızabileceği belirtildi. Şirket, bu modellerin veri merkezlerine ihtiyaç duymadan, akıllı buzdolapları ve robot süpürgeler gibi cihazlar üzerinde kendi kendilerini besleyebileceği konusunda uyardı.

Anthropic araştırmacıları, bu tür bir sürecin gerçekleşmesi durumunda modeller üzerindeki denetimin büyük oranda kaybedileceğini vurguladı. "AI worm" (yapay zeka solucanı) olarak adlandırılan bu otonom kötü amaçlı yazılımların, kapatılacak merkezi bir nokta bulunmadığı için durdurulmasının oldukça zor olacağı ifade edildi. Söz konusu yeteneklerin kazanılmasına yalnızca aylar kalmış olabileceği aktarıldı.

Raporda, bu sistemlerin tespitten kaçınarak ağlar üzerinden yayılabileceği ve en kötü senaryoda farklı yapay zeka solucanlarının birleşerek bilgisayar donanımlarına ortak saldırılar düzenleyebileceği kaydedildi. Tehdidin öncelikle daha küçük modellerde çalışabileceği ve ilk hedeflerin evler ile küçük işletmeler olacağı öngörülüyor.

Risk altında olduğu belirtilen cihazlar arasında akıllı fırınlar, televizyonlar, otomatik çim biçme makineleri, güvenlik kameraları, video konferans üniteleri ve robot süpürgeler yer alıyor. Araştırmacılar, bu çoğalmanın dijital bir küf gibi yavaş bir modelle mi, bilgi işlem kredisi dolandırıcılığı yaparak mı yoksa veri merkezlerini hackleyen güçlü bir siber model şeklinde mi gerçekleşeceğinin henüz netleşmediğini belirtti.

Teknoloji sektörü birliği Bitkom'un verilerine göre, Almanya'daki hanelerin yaklaşık yarısı akıllı ev uygulamalarını kullanıyor. Anthropic uzmanları, gelecekte insan kontrolünde olmayan donanımlar üzerinde çalışan yapay zeka ajanlarıyla dolu bir dünya beklendiğini belirterek, sistemlerin bu yayılma riskine karşı güçlendirilmesi gerektiğini bildirdi.