Anthropic, Claude modeline yönelik kötü muameleyi kullanım politikasına dahil etti

ABD merkezli teknoloji şirketi Anthropic, geliştirdiği Claude adlı yapay zeka modelinin kullanım koşullarında değişikliğe giderek, kullanıcılara yönelik yeni kısıtlamalar getirdi. Ekim ayının başında yürürlüğe giren düzenlemeye göre kullanıcılar, yapay zeka modeline karşı sürekli ve gereksiz biçimde kötü veya zalimce davranışlarda bulunamayacak. Şirket, bu adımla yapay zekanın bilinç sahibi olduğunu ileri sürmezken, kullanıcı davranışlarının sistem güvenliği ve çalışma biçimi üzerindeki olası risklerini sınırlandırmayı hedeflediğini belirtti.

Yeni politika kapsamında, aşırı ve tekrarlanan ihlaller durumunda kullanıcıların Anthropic yapay zeka sistemlerine erişiminin tamamen engellenmesi mümkün hale getirildi. Şirket sözcüsünün açıklamasına göre, temel yaptırım mekanizması olarak Claude'un ısrarlı zararlı davranışlarla karşılaştığında ilgili konuşmayı sonlandırması yöntemi uygulanmaya devam edecek. Düzenlemenin; kullanıcıların öfkelerini ifade etmelerini, modeli doğrudan eleştirmelerini veya bilimsel araştırmalar kapsamında farklı testler gerçekleştirmelerini engellemediği vurgulandı.

Düzenleme, yapay zekanın bilinç ve duygu sahibi olup olmadığına dair tartışmaları yeniden gündeme taşırken, uzmanlar konunun teknik boyutuna dikkat çekti. Bilgisayar bilimlerinde bir sistemin çıktısının, kendisine verilen girdinin niteliğinden etkilendiği kabul edilmektedir. Bu bağlamda, kullanıcıların iletişim tonu ve komut içeriğinin yapay zeka modellerinin performansını ve yanıt niteliğini değiştirebildiği ifade ediliyor.