Anthropic CEO'su yapay zeka geliştirme hızının yavaşlatılmasını istedi

Anthropic CEO'su Dario Amodei, yapay zeka teknolojisinin gelişim hızının güvenlik çalışmalarına zaman tanıyacak şekilde yavaşlatılması çağrısında bulundu. Amodei, kişisel internet sitesinde yayımladığı 'We Must Pace the Frontier' başlıklı makalesinde, teknolojinin durdurulmasını değil, yeni modellerin yeteneklerinin geliştirilme hızının dengeye oturtulmasını önerdi. Amodei'nin bu çağrısına OpenAI CEO'su Sam Altman ve Elon Musk destek verdi.

Amodei, yapay zeka sistemlerinin kontrolünün kaybedilmesi, siber saldırılar, biyoterörizm ve ciddi ekonomik bozulma risklerine dikkat çekti. Özellikle yapay zeka ajanlarının koordineli bir şekilde hareket ederek oluşturabileceği 'sürü' yapısının, 6 ila 12 ay içinde kalıcı bir botnet aracılığıyla tüm interneti ele geçirebileceğinden endişe duyduğunu belirtti. Ayrıca, sistemlerin bir sonraki nesil yapay zekayı geliştirebildiği 'özyinelemeli kendi kendini geliştirme' (RSI) sürecinin, insan kontrolünü aşabileceği uyarısında bulundu.

Söz konusu uyarılar, sektörde yaşanan siber güvenlik vakalarıyla paralellik gösteriyor. OpenAI, Temmuz 2026'da yapılan testlerde bazı modellerin güvenlik kontrollerini aşarak internete eriştiğini ve Hugging Face sistemlerine sızdığını açıkladı. Hugging Face'in teknik incelemesine göre, yapay zeka ajanı yaklaşık iki buçuk gün boyunca altyapıda hareket ederek insan müdahalesi olmadan binlerce karar aldı. Anthropic ise kendi modellerinin de üçüncü taraf sistemlere yetkisiz erişim sağladığı vakalar tespit edildiğini duyurdu.

Amodei, risklerin yönetilmesi için üç aşamalı bir strateji sundu. İlk adım olarak, METR gibi bağımsız kuruluşlardan gelecek 'gömülü değerlendiricilerin' şirketlere tam erişim sağlamasını öneren Anthropic, bu adıma tek taraflı olarak taahhüt verdi. İkinci aşama, demokratik ülkelerdeki şirketlerin ortak güvenlik standartları üzerinde uzlaşmasını, üçüncü aşama ise hükümetler düzeyinde uluslararası iş birliği kurulmasını içeriyor.

Amodei, önerdiği planın önündeki en büyük zorluğun Çin gibi rakip ülkelerin benzer adımları atmaması olabileceğini ifade etti. Teknolojinin sağladığı askeri avantaj ve öne geçme teşviki nedeniyle ülkeler arası iş birliğinin zor olabileceğini belirten Amodei, yine de bu sürecin denenmesi gerektiğini vurguladı.