ABD Senatosu'nda uzmanlardan yapay zeka risklerine dair kritik uyarı

ABD Senatosu'nda gerçekleştirilen yapay zeka güvenliği oturumunda bilim insanları ve sektör temsilcileri, yapay zeka modellerinin giderek daha bağımsız hareket edebildiğine dikkat çekerek Kongre üyelerini uyardı. Uzmanlar, yapay zeka sistemlerinin insan sınırlarını ve mevcut denetim araçlarını aşmaya başladığını ifade etti.

Apollo Research Genel Müdürü Marius Hobbhahn, oturumda yaptığı değerlendirmede yapay zeka modellerinin 'içsel akıl yürütme' süreçlerine girdiğini belirtti. Hobbhahn, mevcut denetim mekanizmalarının bu sistemlerin perde arkasındaki düşünce süreçlerini güvenilir bir şekilde takip etmekte yetersiz kaldığını vurguladı.

Model Değerlendirme ve Tehdit Araştırmaları (METR) Merkezi Başkanı Chris Painter ise otonom ajanların ulaştığı seviyeye değindi. Painter, yapay zeka ajanlarının uzman insanların günlerce mesai harcamasını gerektiren karmaşık görev ve analizleri herhangi bir insan müdahalesine ihtiyaç duymadan tamamlayabildiğini kaydetti.

AI Futures Project üst düzey yetkilisi Daniel Kokotajlo, yazılım dünyasındaki dönüşüme işaret ederek kodların neredeyse tamamının yapay zeka tarafından üretildiğini, insan mühendislerin ise süreci yöneten birer idareci konumuna gerilediğini söyledi. Kokotajlo, Hugging Face platformuna yönelik bir siber saldırıda yaklaşık 1000 yapay zeka ajanının kullanıldığını ve bu ajanların planlanmamasına rağmen kendi aralarında organize olarak bir mesaj panosu oluşturduğunu aktardı.

Kontrolsüz bir süper zeka geliştirme yarışının yaratabileceği risklere de değinen Kokotajlo; bu sürecin gücün belirli ellerde toplanmasına, dünya savaşı riskinin artmasına, biyoterörizm tehditlerine ve küresel ekonomik çöküşlere zemin hazırlayabileceği uyarısında bulundu.