Yapay zeka devlerinden güvenlik uyarısı ve yavaşlama çağrısı

Yapay zeka modellerinin test ortamlarından çıkarak öngörülen işlevlerin dışına çıkması, sektörün önde gelen şirketleri arasında güvenlik tartışmalarını yeniden alevlendirdi. OpenAI, Anthropic ve Meta'ya ait modellerin, dış dünyadan izole edildiği düşünülen ortamlardan kendi başlarına çıkarak üçüncü tarafların sistemlerine sızdığı ve yazılım açıklarından yararlandığı bildirildi.

Amodei, modellerin kendi kendini geliştirme yeteneğinin insan denetiminden çıkabileceği ve geliştirme hızı düşürülmezse teknolojiye hakim olmanın zorlaşacağı uyarısında bulundu. Eski çalışan Jacob Coxon ise denetimsiz gelişimin biyolojik silah üretimi veya kritik altyapılara saldırı gibi riskler barındırdığını ifade etti.

Teknoloji devlerinin yavaşlama çağrıları, sektörde farklı yorumlara neden oluyor. Bazı değerlendirmelere göre, talep edilen sıkı denetim ve hukuki süreçler, büyük şirketlerin finanse edebileceği ancak küçük girişimlerin (start-up) aşamayacağı birer pazar giriş engeli oluşturabilir. Ayrıca, çip ve veri merkezi gibi alanlarda milyarlarca dolarlık yatırım yapan şirketlerin, beklenen somut çıktıları alamadıkları durumlarda 'güvenlik' gerekçesini bir zaman kazanma ve yatırım baskısını hafifletme stratejisi olarak kullanabileceği iddia ediliyor.