Yapay zekâ sektör liderlerinden BM Güvenlik Konseyi'ne güvenlik uyarısı

Birleşmiş Milletler Güvenlik Konseyi'nde düzenlenen 'Yapay Zekâ ve Uluslararası Güvenlik' başlıklı toplantıda, sektörün önde gelen teknoloji şirketlerinin yöneticileri, yapay zekâ sistemlerinin küresel güvenlik açısından oluşturabileceği riskleri ele aldı. Fransa'nın dönem başkanlığında gerçekleştirilen oturuma OpenAI CEO'su Sam Altman, Anthropic CEO'su Dario Amodei ve Hugging Face kurucu ortağı Clément Delangue katıldı. Toplantıda, yapay zekâ teknolojisinin hızla gelişmesinin beraberinde getirdiği tehditler ve bu süreçlerin nasıl yönetilmesi gerektiği tartışıldı.

OpenAI CEO'su Sam Altman, yapay zekânın insanlık için ya yeni bir yaratıcılık ve keşif rönesansı ya da kaosun yaşandığı bir sanayi devrimi olabileceğini belirterek bir yol ayrımında olduklarını ifade etti. Altman, sistemlerin kendi kendilerini geliştirebileceği ve insan müdahalesini saf dışı bırakabileceği uyarısında bulunarak, kararların yalnızca teknoloji laboratuvarlarında değil, demokratik süreçler ve sorumlu hükümetler aracılığıyla alınması gerektiğini vurguladı.

Anthropic CEO'su Dario Amodei ise yapay zekânın kötü yönetilmesi durumunda insanlık için bütünsel bir risk oluşturabileceğine dikkat çekti. Amodei, modellerin biyolojik silah geliştirmek amacıyla kötüye kullanılması ve sistemlerin kontrolden çıkması risklerine değinerek; biyolojik silah kullanımının yasaklanması, küresel test standartları ve yeni bir güvenlik bildirim mekanizmasının oluşturulması çağrısında bulundu.

Toplantıda devlet temsilcileri de görüşlerini paylaştı. İngiltere Dışişleri Bakanı Ed Miliband, felaketi önleme görevinin şirketlere bırakılamayacağını ifade ederken, İngiltere'nin gelecek yılki G20 başkanlığında yapay zekâ kontrolünü gündeme getireceğini açıkladı. Fransa Dışişleri Bakanı Jean-Noel Barrot ise uluslararası toplumun teknolojiyi düzenlemesi gerektiğini belirtti.

Yapay zekâ teknolojisinin denetlenmesi konusunda küresel aktörler arasında görüş ayrılıkları yaşandığı kaydedildi. Reuters'ın aktardığı bilgilere göre, ABD tarafında yapay zekâya özel yeni düzenlemelere ihtiyaç duyulmadığı savunulurken; Çin'in yapay zekâ algoritmaları ve eğitim verilerini kapsayan kurallar uyguladığı belirtildi.