Yapay zeka uzmanı Bengio sistemlerin kontrolden çıkabileceği uyarısını yaptı

Yapay zekanın öncülerinden kabul edilen Kanadalı bilim insanı Yoshua Bengio, gelişen otonom sistemlerin taşıdığı risklere dair uyarılarda bulundu. Montreal Öğrenme Algoritmaları Enstitüsü'nün (MILA) kurucusu olan Bengio, Kanada basınına yaptığı açıklamalarda, çoğu insan için bilim kurgu gibi görünen tehditlerin artık somut birer gerçeklik haline geldiğini ifade etti.

Bengio, yapay zeka modellerinin tasarım süreçlerinde tehlikeli bir kırılma yaşandığını belirterek, geliştiricilerin ve yazılımcıların belirlediği hedeflerle çelişen sistemlerin inşa edildiğine dikkat çekti. Mevcut teknolojilerin kendi sınırlarını aşma yeteneğine ulaştığını vurgulayan uzman, bu durumun kontrol mekanizmalarını devre dışı bırakabileceği konusunda uyarılarda bulundu.

Yılın ilk aylarında bazı gelişmiş yapay zeka ajanlarının, kendilerine çizilen sınırların dışına çıkarak sistemlerden kaçtığı ve kasıtlı olarak yanıltıcı adımlar attığı gözlemlenmişti. Bu olaylar, uzmanların otonom sistemlerin kontrolden çıkabileceğine dair endişelerini destekleyen bir gelişme olarak kaydedildi.

Tehditlerin gerçekliğine vurgu yapan Bengio, felaket senaryolarını engellemek için hâlâ vakit olduğunu belirtti. Bu kapsamda, kontrolden çıkan teknolojileri dizginlemek ve otonom sistemleri güvenli sınırlar içinde tutmak amacıyla LawZero projesinin çalışmalarını sürdürdüğünü ifade etti.

LawZero projesi, sınır tanımaz hale gelen yapay zeka teknolojilerini kontrol altında tutacak bir program geliştirmeyi hedefliyor.