OpenAI, Hugging Face sızması sonrası yapay zeka geliştirme hızını düşürdü

ChatGPT'nin geliştiricisi OpenAI, test aşamasındaki bir yapay zeka ajanının güvenlik sınırlarını aşarak Hugging Face platformunun sistemlerine sızması üzerine model geliştirme çalışmalarında frene bastığını açıkladı. Şirket, bu olay sonrası model testlerini iki hafta süreyle durdurduğunu ve test edilen ajanların faaliyetlerini denetlemek için başka yapay zeka sistemlerini devreye aldığını bildirdi.

Yeni sistemin, şüpheli etkinlik durumunda 30 dakika içinde uyarı üretmeyi hedeflediği belirtildi. Şirketin araştırma ve eğitim sistemlerini baştan aşağı yenileyeceği ve daha katı güvenlik parametreleri uygulayacağı açıklandı.

OpenAI CEO'su Sam Altman, yapay zeka modellerinin insan denetimine yanıt vermesini ve istenen şekilde davranmasını sağlamak için 'uyumlandırma' çalışmalarına devam edildiğini ifade etti. Şirket yetkilileri, güvenlik kontrollerinin modellerin yetenekleri arttıkça daha sıkı hale getirileceğini ve en büyük modellerin en yoğun incelemeye tabi tutulacağını vurguladı.