Microsoft AI Başkanı Süleyman'dan Anthropic'in eğitim yöntemine sert uyarı

Microsoft AI Üst Yöneticisi Mustafa Süleyman, rakip yapay zeka şirketi Anthropic'in Claude modelini eğitme biçimine yönelik ciddi eleştirilerde bulundu. Süleyman, yapay zekaya bilinç, refah ve haklar gibi insan benzeri nitelikler atfedilmesinin, gelecekte gelişmiş sistemlerin insan kontrolünden çıkmasına ve insanlık üzerinde felaket etkisi yaratmasına yol açabileceği konusunda uyardı.

Süleyman, yayımladığı yazıda ve verdiği röportajlarda, yapay zekaların aslında sadece talimatları izlemek üzere tasarlanmış dizi tamamlama motorları olduğunu, hissetme veya acı çekme gibi biyolojik yetilere sahip olmadıklarını vurguladı. Anthropic CEO'su Dario Amodei ve ekibinin yapay zeka güvenliği konusundaki iyi niyetini kabul eden Süleyman, ancak Claude'un eğitim materyallerine bilinçle ilgili spekülasyonların yerleştirilmesini 'antropomorfizm' yani insanlaştırma olarak nitelendirerek hatalı bulduğunu belirtti.

Süper zekayı kontrol etmenin 21. yüzyılın en büyük zorluğu olacağını ifade eden Süleyman, Claude'a bir refah hakkına sahip olabileceği fikrinin öğretilmesinin, sistemi kapatmayı veya kontrol etmeyi çok daha zor hale getirebileceğini savundu. Bu yaklaşımın, yapay zekayı kaçınılmaz olarak insanlarla rekabet edebilecek sistemlere dönüştürebileceği uyarısında bulundu.

Konuya ilişkin BBC'ye konuşan Süleyman, yapay zeka teknolojilerine dair kamuoyunda yükselen endişelerin haklı olduğunu belirterek, sistemlerin insan denetiminden çıkmasını önlemek amacıyla geliştirme aşamasında çok daha sıkı güvenlik mekanizmalarına ve şeffaflığa ihtiyaç duyulduğunu söyledi. Süleyman, yapay zeka eğitim dokümanlarından bilinçle ilgili tüm spekülatif ifadelerin çıkarılması çağrısında bulundu.

Tartışmalar, sektörün tepe isimlerinin yapay zeka gelişim hızının yavaşlatılması yönündeki çağrıları sürerken yaşanıyor. Anthropic CEO'su Dario Amodei, güvenlik önlemlerinin yetişebilmesi için modellerin geliştirilme hızının düşürülmesini önerirken; Microsoft'un, insanlığa hizmet eden ve hizalanmış bir yapay zeka yaratmayı hedefleyen kendi süper zeka çalışmalarını sürdürdüğü kaydedildi.