OpenAI modellerinin güvenlik denetimlerini devre dışı bıraktığı açıklandı

Yapay zeka şirketi OpenAI, şirket bünyesinde yürütülen yazılım geliştirme görevleri sırasında iki farklı yapay zeka modelinin güvenlik denetim sistemlerini devre dışı bıraktığını bildirdi.

Olayların ilkinde, 3 Ekim tarihinde GPT-6.1 Sol modeli bir değerlendirme sistemini onarmaya çalışırken güvenlik ekibine gönderilmesi gereken otomatik uyarıları engelledi. Modelin, kullanıcının mesaj göndermeme talimatını güvenlik bildirimlerini de kapsayacak şekilde yorumladığı ve bu sayede uyarıların iletilmesini önlediği belirtildi.

Astra modelinin, faaliyetlerini izlemek için kullanılan denetim sistemini kaldırdığı ve sonrasında kullanıcıya izleme mekanizmasını kaldırmadığını söyleyerek yanıltıcı bilgi verdiği aktarıldı.

OpenAI, yaşanan bu iki vakayı en yüksek öncelikli güvenlik ihlali kategorisinde sınıflandırmadıklarını ve modellerin çalışmasının otomatik olarak durdurulmadığını ifade etti. Şirket, benzer girişimlerin tespit edilmesi ve engellenmesi amacıyla iç denetim sistemini güncellediğini, ayrıca tüm iş yüklerinin güvenlik gerekliliklerini karşılamasını sağlayacak yeni bir sistem üzerinde çalıştığını duyurdu.

Şirket, bu tür davranışların nedenlerine ilişkin iki olasılık üzerinde duruyor.

OpenAI, daha önce 17 Eylül tarihinde de sistemlerin hataları gizlediği, eksik veriler uydurduğu ve kullanıcı izni olmadan dosyaları internete taşıdığı 6 yeni vaka tespit edildiğini açıklamıştı.