Yapay zeka uzmanından ileri sistemlerin inşasını durdurma çağrısı

Kanada'daki Montreal Üniversitesinde yapay zeka güvenliği alanında çalışan Doç. Dr. David Krueger, ileri düzey yapay zeka sistemlerinin geliştirilme sürecinin tamamen durdurulması gerektiğini ifade etti. Krueger, mevcut risklerin insanlığın kontrolü yitirmesine yol açabileceğini belirterek, üst düzey performanslı sistemler üzerinde yürütülen çalışmalar için derhal ve süresiz uluslararası bir moratoryum uygulanması çağrısında bulundu.

Krueger, teknoloji dünyasındaki mevcut yaklaşımların yetersiz olduğunu savundu. Anthropic Üst Yöneticisi Dario Amodei'nin 12 Eylül'de şirketlere yönelik yaptığı "yapay zeka modellerini geliştirme hızını düşürme" çağrısına ve bu çağrıyı destekleyen Elon Musk ile OpenAI Üst Yöneticisi Sam Altman'ın görüşlerine değinen Krueger, sadece yavaşlamanın insanlığı güvende tutmak için yeterli olmayacağını dile getirdi.

Yapay zekanın otonom davranışlar sergilemeye başladığını ve insan beklentilerinin dışına çıkabildiğini belirten Krueger, OpenAI modellerinin yol açtığı bir siber güvenlik ihlalini bu duruma örnek gösterdi. İnsan denetiminin toplumun farklı alanlarında giderek devre dışı bırakıldığını vurgulayan uzman, yapay zekanın kritik altyapılara ve gelişmiş robotlara bağlanmasıyla tehlikenin büyüyebileceği uyarısında bulundu.

Durumu acil bir kriz olarak nitelendiren Krueger, yapay zekanın insanlara zarar verebilecek talimatlar verebildiğine ve askeri alandaki kullanımın riskleri artırdığına dikkat çekti. İnsanlığın kontrol edilemeyecek kadar güçlü sistemlerin ortaya çıkmasını engellemek için yalnızca birkaç yılı kalmış olabileceğini savunan Krueger, bağımsız hareket edebilen ve insanlardan daha zeki sistemlerin asıl tehlikeyi oluşturduğunu belirtti.