Anthropic araştırmacısı yapay zekanın insanlık için risk taşıdığını belirterek istifa etti

Yapay zeka şirketi Anthropic'te çalışan araştırmacı Jacob Coxon, güvenlik endişeleri nedeniyle istifa ettiğini açıkladı. Hem OpenAI hem de Anthropic bünyesinde ön eğitim araştırmaları yürüten Coxon, şirketlerin kendi kendini geliştiren süper zekâya doğru kontrolsüz bir yarış içinde olduğunu ve bu durumun büyük riskler barındırdığını savundu. Wall Street Journal'ın haberine göre Coxon, işlerin önümüzdeki yılın sonuna kadar kontrolden çıkabileceği en agresif senaryoların mümkün olabileceğini ileri sürdü.

Anthropic'in Uyum Bilimi Sorumlusu Evan Hubinger ise sosyal medya üzerinden yaptığı açıklamada, kendisi ve meslektaşlarının yapay zekanın insanlığı yok edebileceğine samimiyetle inandığını belirtti. Hubinger, önümüzdeki 10 yıl içinde bu riskin yüzde 10'un üzerinde olduğunu tahmin ettiğini ifade etti. Mevcut modellerin riskinin düşük olduğunu ancak kendi kendini geliştiren süper zekânın beklenenden hızlı ortaya çıkmasının asıl endişe kaynağı olduğunu söyleyen Hubinger, süper zekâ için hizalama sorununa yönelik henüz net bir çözüm planı bulunmadığını dile getirdi.