Anthropic kurucusu yapay zeka için zorunlu kapatma düğmesi önerdi

Yapay zeka şirketi Anthropic'in kurucu ortaklarından Jack Clark, BBC'ye verdiği röportajda, yapay zeka yazılımlarının tehlikeli bir boyuta ulaşması halinde sistemleri tamamen devre dışı bırakacak bir 'acil kapatma düğmesinin' şirketler için zorunlu tutulabileceğini ifade etti. Clark, mevcut durumda Anthropic dahil birçok laboratuvarın farklı kapatma yöntemlerine sahip olduğunu ancak bu mekanizmaların denetiminin bağımsız üçüncü taraflarca yapılmasının küresel politika tartışmalarının bir parçası olması gerektiğini vurguladı.

Anthropic Üst Yöneticisi Dario Amodei, yapay zeka gelişim hızının daha yakından izlenmesi ve kontrollü bir şekilde yavaşlatılması gerektiğini savunurken, bu tür adımların ticari avantajlardan ödün vermeden atılması gerektiğini belirtti. Amodei ayrıca, gelişmiş modellerin piyasaya sürülmeden önce bağımsız uzmanlar tarafından kapsamlı testlerden geçirilmesini desteklediğini dile getirdi.

Sektördeki güvenlik endişeleri, uzmanların yapay zekanın insanlık için oluşturabileceği risklere dair farklı tahminleri ile devam ediyor. Anthropic bilim insanı Evan Hubinger, önümüzdeki on yıl içinde yapay zekanın insanlığın sonunu getirme olasılığının yüzde 10'dan fazla olduğunu öngördüğünü belirtti. Nobel ödüllü bilgisayar bilimcisi Geoffrey Hinton ise yapay zekanın tüm insanlığı yok etme ihtimalinin yüzde 10 olmasının mantıksız olmadığını ifade etti.

Güvenlik tartışmaları, sektördeki istifalarla da gündemde kalmaya devam ediyor. OpenAI ve Anthropic'te araştırmacı olarak görev yapan Jacob Coxon'un istifası, şirketlerin yeterince sorumlu davranmadığı iddialarını beraberinde getirdi. Clark ise mevcut yapay zeka gelişim sürecini, muazzam riskler alarak kumar oynamaya benzetti.

Tartışmaların odağındaki kapatma mekanizmasının, kötüye kullanım, siber saldırılar ve kontrol kaybı gibi risklere karşı son savunma hattı olabileceği belirtiliyor. Ancak bazı çevreler, teknolojiye yönelik bu tür müdahalelerin bilimsel ilerlemeyi yavaşlatabileceği yönünde görüş bildiriyor.