Yapay zeka yöneticilerinden BMGK'da kontrol kaybı ve kötüye kullanım uyarısı

OpenAI Üst Yöneticisi Sam Altman ve Anthropic Üst Yöneticisi Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi'nde (BMGK) düzenlenen 'Yapay zeka ve uluslararası güvenlik' başlıklı toplantıda değerlendirmelerde bulundu. İki teknoloji lideri, yapay zeka sistemlerinin otonom hale gelmesiyle oluşabilecek kontrol kaybı ve teknolojinin kötüye kullanılması risklerine dikkat çekerek, küresel düzeyde düzenlemeler ve ortak denetim mekanizmaları kurulması gerektiğini vurguladı.

Sam Altman, yapay zeka modellerinin geliştirilme hızının artmasının riskleri daha acil hale getirdiğini ifade etti. Teknolojinin insanlık için yeni bir rönesans dönemi başlatabileceğini ancak aynı zamanda ciddi sarsıntılara yol açabilecek bir dönüşüme de neden olabileceğini belirten Altman, sistemlerin kendi kendilerini geliştirme kapasitesinin artması durumunda insan müdahalesinin devre dışı kalabileceği uyarısında bulundu.

Altman, yapay zeka geliştirme sürecinin giderek daha otomatik hale geldiğini belirterek, insan kontrolünde tutulamayacak modellerin eğitilmemesi gerektiğini söyledi. Ayrıca, yapay zekaya ilişkin kritik kararların yalnızca teknoloji şirketleri tarafından alınmaması, demokratik süreçler ve hükümetler aracılığıyla şekillendirilmesi gerektiğini dile getirdi.

Anthropic Üst Yöneticisi Dario Amodei ise yapay zekanın son yıllardaki olağanüstü gelişiminin yönetilmesi gereken yeni riskler doğurduğunu belirtti. Amodei, riskleri iki ana kategoride tanımladı: Teknolojinin biyoteröristler tarafından biyolojik silah geliştirmek amacıyla kötüye kullanılması ve yapay zeka modellerinin yeteneklerinin geliştiricilerin kontrol kapasitesinin ötesinde hızlanmasıyla ortaya çıkabilecek 'kontrol kaybı'.

Toplantıda, en gelişmiş modellerin ortak standartlarla test edilmesi, devletlerin bu sistemlerin kabiliyetlerini değerlendirebilmesi ve verilen güvenlik taahhütlerinin doğrulanabilmesi için uluslararası mekanizmaların kurulması önerildi. İki yönetici, yapay zeka güvenliğinin sağlanması için ülkelerin ve kurumların birlikte hareket etmesi gerektiğini savundu.