Anthropic yapay zekanın kendi kendini geliştireceği eşiğe yaklaşıldığını duyurdu

Yapay zeka alanında faaliyet gösteren Anthropic, ABD Menkul Kıymetler ve Borsa Komisyonu'na (SEC) sunduğu güncellenmiş S-1/A belgesinde, sistemlerin kendi yeteneklerini özerk bir şekilde artırabileceği 'özyinelemeli öz gelişim' (Recursive Self-Improvement - RSI) noktasına çok yaklaşıldığını bildirdi.

RSI süreci, bir yapay zeka modelinin yeni modellerin tasarlanması, eğitilmesi ve geliştirilmesi süreçlerinde aktif rol üstlenerek kendi gelişimini besleyen bir döngü oluşturmasını ifade ediyor. Anthropic, Ar-Ge çalışmalarında yapay zekadan giderek daha fazla yararlandığını ve bu durumun modellerin gelişim hızını önemli ölçüde artırabileceğini belirtti. Şirket, yeteneklerdeki büyük sıçramaların, kendileri tarafından fark edilmeden önce gerçekleşebileceği konusunda da uyarıda bulundu.

Belgede yer alan bilgilere göre, yapay zekanın kendi kendini geliştirdiği bu döngünün yeterince hızlı hale gelmesi durumunda, insan araştırmacıların gelişmeleri takip etmekte zorlanabileceği ve gerekli güvenlik önlemlerini zamanında almanın mümkün olmayabileceği öngörülüyor. Anthropic, Claude gibi modellerin gelecekte yeni nesil yapay zekaları tamamen bağımsız şekilde tasarlayıp geliştirmesini güvenli bulmadığını ifade etti.

Anthropic'in Sorumlu Ölçeklendirme Politikası'na (Responsible Scaling Policy) dayandırdığı tahminler, yapay zekaya atfedilebilir biçimde çarpıcı ölçüde hızlanmış bir ilerleme eşiğinin çok yakında karşılanabileceğine işaret ediyor. Şirket, bu riskleri yeni yatırımcıların farkında olması amacıyla belgede detaylandırdı.