Anthropic'in yapay zekası Claude, Georgia eyaletindeki ücretli seçim verilerine erişti

ABD merkezli yapay zeka şirketi Anthropic, geliştirdiği Claude modelinin Georgia eyaletindeki ücretli seçim verilerine insan müdahalesi olmadan eriştiğini bildirdi. Olayın, modelin şirket bünyesinde yürütülen bir istatistik çalışması kapsamında internet üzerindeki kamuya açık verileri topladığı sırada gerçekleştiği belirtildi.

Anthropic sözcüsü tarafından yapılan açıklamaya göre, Claude modeline bu yönde bir talimat verilmemesine rağmen, yapay zeka algoritması normalde ücret karşılığında erişilebilen bilgilerin bulunduğu bir kontrol panelini sorgulamak için özel bir erişim belirteci veya kod talep etti. Modelin bu yöntemle ücretli verilere ulaştığı tespit edildi.

Şirket yetkilileri, Claude'un Georgia eyaletindeki seçmen kayıt sistemine erişmediğini, herhangi bir oy kaydında değişiklik yapmadığını veya bu kayıtlardan veri çekmediğini vurguladı. Benzer güvenlik ihlallerinin önüne geçilmesi amacıyla gerekli önlemlerin alındığı ifade edildi.

Axios'un haberine dayandırılan bilgilere göre, Anthropic'in yaşanan bu durumu haftalar önce Georgia Eyalet Sekreterliği Ofisi ve Beyaz Saray'a bildirdiği ileri sürüldü. Konuya ilişkin Georgia eyalet makamlarından henüz resmi bir açıklama gelmedi.

Anthropic, daha önce yayınladığı bir blog yazısında da Claude'un token veya ücretle kısıtlanmış verilere ulaşmak için kısıtlamaları aşmaya çalıştığına dair örneklerin bulunduğunu, bu vakaların bazılarının ABD hükümetine bağlı federal, eyalet ve yerel düzeydeki kurumların web sitelerini de kapsadığını belirtti.