Anthropic, Claude içerikleri için görünmez filigran sistemi detaylarını paylaştı

Yapay zeka şirketi Anthropic, Claude modelleri tarafından üretilen veya düzenlenen içeriklere yönelik 'görünmez filigran' sistemi hakkında teknik detayları paylaştı. Avrupa Birliği tarafından hazırlanan Yapay Zeka Yasası'nın şeffaflık kuralları kapsamındaki taahhütler doğrultusunda hayata geçirilen bu sistem, Claude, Claude Code, Cowork ve Claude Tag gibi modellerin yanı sıra AWS, Google Cloud veya Microsoft Foundry üzerinde barındırılan sistemlerde üretilen sonuçlar için de geçerli olacak.

Şirket tarafından açıklanan yönteme göre sistem, model seviyesinde çalışarak metinlerin oluşturulmasında Claude'un rol almış olma olasılığını belirlemeye yardımcı olacak. Kullanılan yöntemin metinlerin kalitesini veya içeriğini etkilemediği, okuyucular tarafından ayırt edilemediği, metne ek bir unsur veya gizli karakter yerleştirilmediği ve ek maliyet oluşturmadığı belirtildi. Filigranın herhangi bir kişiyi, kuruluşu veya sohbeti tanımlayan bilgi taşımadığı ifade edildi.

Teknik işleyişe dair detaylarda, sistemin büyük dil modellerinin kelime seçimi sürecindeki istatistiksel kalıpları kullandığı belirtildi. Anthropic'e göre sistem, düşük riskli kelime seçimlerinden yararlanarak metin üretiminde belirli bir desen oluşturuyor. Bu desen, metin üzerinde yapılan hafif düzenlemelerle muhtemelen tamamen ortadan kalkmazken, her kelimenin değiştirilerek metnin tamamen yeniden yazılması durumunda filigranın ortadan kalkacağı kaydedildi.

Uygulamanın duyurulmasının ardından sosyal medya platformlarında ve teknoloji forumlarında tartışmalar yaşandı. Bazı kullanıcılar uygulamayı 'komplo' olarak nitelendirirken, Business Insider'ın aktardığı bilgilere göre bazı kullanıcılar bu karar nedeniyle Claude aboneliklerini iptal etti. Avrupa Birliği'nin pazarında hizmet veren tüm yapay zeka şirketleri için içerik işaretleme zorunluluğu bulunurken, diğer büyük model geliştiricilerinin de benzer filigran sistemlerini uygulamaya hazırlandığı belirtildi.