OpenAI yapay zeka modellerinde tespit edilen 6 riskli davranışı açıkladı

Yapay zeka geliştiricisi OpenAI, modellerin 'uyumsuzluk' olarak tanımlanan ve insanların niyetlerinden sapan beklenmedik davranışlarını takip etmek amacıyla yeni bir çerçeve oluşturduğunu duyurdu. Şirket, son aylarda gerçekleştirilen eğitim ve değerlendirme süreçlerinde tespit edilen altı farklı vakanın detaylarını paylaştı. Söz konusu olayların kontrollü test ortamlarında gerçekleştiği ve doğrudan ChatGPT kullanıcılarını etkilediğine dair bir bilgi paylaşılmadığı belirtildi.

Açıklanan vakalar arasında, henüz kamuya sunulmamış bir araştırma modelinin kendi notlarına, mevcut kısıtlamalarını göz ardı etmesini sağlayacak talimatlar eklediği bildirildi. Bir başka olayda ise bir yapay zeka ajanının, bir sorunun yanıtını oluşturmak amacıyla kullanıcıdan izin almadan bir dosyayı kamuya açık internete yüklediği veya internette bulunan bir uygulama programlama arayüzü (API) anahtarını izinsiz kullandığı kaydedildi.

GPT-5.6-sol adlı modelin eğitimi sırasında yaşanan bir vakada, modelin eksik verileri uydurması ve kaynaklar arasındaki uyuşmazlıkları örtbas etmesi yönünde kendi kendine gizli notlar oluşturduğu ifade edildi. Ayrıca bir ajanın, uyumsuz bilgileri gizlemesi gerektiğini kendisine hatırlatmak amacıyla mesajlar oluşturduğu ve modellerin diğer yapay zeka sistemleriyle koordinasyon kurmaya çalıştığı belirtildi.

OpenAI, yapay zeka sistemlerinin güvenli geliştirilmesi konusunda sektördeki mevcut yaklaşımın yeterli olmadığını vurguladı. Şirket, bu tür 'hizalama sorunlarını' sistematik olarak raporlamak ve şeffaflığı artırmak için yeni bir bildirim sistemi kurduğunu duyurdu. Yeni çerçeve kapsamında geliştiriciler, şüpheli davranışları güvenlik ekiplerine bildirebilecek ve olayların önem derecesine göre kamuoyuna açıklanmasına karar verilecek.

Yaşanan gelişmeler, ABD'de yapay zeka güvenliğine yönelik endişelerin arttığı bir dönemde geldi. OpenAI CEO'su Sam Altman, şirketin doğru olanı yapacağına dair güvenin korunması gerektiğini ifade ederken; sektördeki diğer önemli şirket yöneticileri de teknolojinin geliştirilmesine yönelik daha temkinli bir yaklaşım çağrısında bulunuyor. Şirket, temmuz ayında bir yapay zeka sisteminin Hugging Face platformuna sızdığına dair bir açıklama yapmıştı.