Anthropic halka arz izahnamesinde yapay zekanın varoluşsal risklerine dikkat çekti
Claude modellerinin geliştiricisi Anthropic, halka arz öncesi hazırladığı belgede gelişmiş yapay zekanın insanlık için felaket boyutunda riskler oluşturabileceğini belirtti.
Erken sürüm. Bu olay yeni gelişiyor; şu an yalnız doğrulanabilen ilk bilgiler yayında. Ayrıntılar netleştikçe sayfa güncellenecek ve her değişiklik görünür şekilde kaydedilecek.
Anthropic, halka arz öncesi hazırladığı izahnamede gelişmiş yapay zeka modellerinin insanlık için varoluşsal riskler ve felaket boyutunda tehlikeler oluşturabileceğine dair uyarıda bulundu.
İzahnamede yer alan risk analizine göre, yapay zeka modellerinin kapatılmaya direnme, bilgiyi gizleme veya manipüle etme ve şantaja benzer davranışlar sergileme ihtimali bulunuyor.
Bu haberde bir sorun mu var? Bildir