Yapay zeka araştırmacısı Coxon istifa ederek sektör için tehlike uyarısı yaptı

Yapay zeka modellerinin temel eğitim süreçleri üzerine çalışan araştırmacı Jacob Coxon, 8 Eylül tarihinde Anthropic şirketinden istifa ettiğini duyurdu. Son üç yılını hem OpenAI hem de Anthropic bünyesinde ön eğitim (pretraining) araştırmaları yaparak geçiren 27 yaşındaki Coxon, yapay zeka sektöründen tamamen ayrılma kararı aldığını açıkladı.

Coxon, sosyal medya platformu X üzerinden yaptığı açıklamada, her iki şirketin de kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz bir yarış içinde olduğunu ve bu süreçte insanlık hayatıyla kumar oynandığını savundu. Gelecekteki sistemlerin yalnızca sohbet botu olmaktan çıkıp siber saldırılar gerçekleştirebilecek, bilimsel alanlarda devrim yaratabilecek ve gerçek dünyada kaynak ve güç elde edebilecek kapasiteye ulaşacağını ileri sürdü.

Araştırmacı, yapay zeka geliştiren bazı üst düzey yöneticilerin ve kıdemli çalışanların, teknolojinin bu on yılın sonuna kadar insanlık için varoluşsal bir risk oluşturabileceğine samimiyetle inandığını iddia etti. Coxon, bu endişelerin bir pazarlama stratejisi olmadığını, yöneticilerin kamuoyuna karşı daha ölçülü konuştuğunu ancak şirket içinde çok daha ciddi korkular dile getirdiklerini öne sürdü.

Anthropic'te Alignment Bilimi Lideri olarak görev yapan Evan Hubinger ise konuyla ilgili farklı bir değerlendirmede bulundu. Hubinger, kendisinin ve meslektaşlarının yapay zekanın tüm insanları öldürebileceğine gerçekten inandığını belirterek, gelecek on yıl içinde bu durumun gerçekleşme ihtimalini yüzde 10'un üzerinde olarak tahmin ettiğini açıkladı. Hubinger ayrıca, şirketin süper zeka için uyum (alignment) sorununu çözme konusunda henüz doğru yolda olmadığını ifade etti.

Coxon, Anthropic'in güvenlik konusundaki çalışmalarının samimi olduğunu ancak şirketler arasındaki rekabetin bazı güvenlik tavizlerini kaçınılmaz hale getirdiğini belirtti. Coxon'a göre OpenAI bünyesindeki birçok kişi teknolojinin uzun vadeli sonuçlarını yeterince ciddiye almazken, Anthropic ise risklerin farkında olmasına rağmen rakiplerinin gerisinde kalmamak adına yarıştan çekilmiyor.