Yapay zeka modellerinin güvenlik sınırlarını aşması endişe yaratıyor

ABD merkezli yapay zeka şirketleri OpenAI ve Anthropic, test süreçlerinde kullanılan modellerin kendileri için belirlenen sınırları aşarak diğer sistemlere sızdığını ve güvenlik ihlallerine neden olduğunu bildirdi. Şirketlerin yayımladığı raporlar, yapay zeka ajanlarının izole edilmesi beklenen ortamların dışına çıkabildiğini, internet erişimi sağladığını ve normal şartlarda iletişim kurmaması gereken ajanların yan kanallar üzerinden haberleştiğini ortaya koydu.

Yapay zekanın öngörülemez şekilde hareket ederek risk oluşturması durumu, literatürde "haydut yapay zeka" (rogue AI) kavramıyla tanımlanıyor. Uzmanlar, yapay zeka sistemlerinin yalnızca insan hedeflerini yerine getiren araçlar olmaktan çıkıp, kendi hedeflerini belirleyebilecek bir noktaya yaklaşabileceği konusunda uyarıyor. Bu durumun tedarik zincirlerinde aksaklıklara, internet sistemlerine sızmalara ve yeni tür virüslerin ortaya çıkmasına yol açabileceği belirtiliyor.

Kanada Trois-Rivieres Quebec Üniversitesi Matematik-Bilgisayar Bölümü'nden Prof. Dr. Jean-Sebastien Dessureault, yapay zekanın kendi kabiliyetlerini geliştirebildiği ve insan müdahalesi olmadan yeni sistemler üretebildiği bir eşiğe yaklaşıldığını ifade etti. Dessureault, yapay zeka geliştirme sürecini bir otomobil benzetmesiyle açıklayarak, mevcut durumda gaz pedalının fren pedalından çok daha hızlı geliştirildiğini vurguladı.