OpenAI güvenlik riskleri nedeniyle GPT-6.1 Astra modelini askıya aldı

ABD merkezli yapay zeka şirketi OpenAI, yeni geliştirdiği GPT-6.1 Astra modelinin piyasaya sürülme sürecini güvenlik endişeleri nedeniyle ertelediğini açıkladı. Şirket, yeni sürümün güvenlik ve uyumluluk konusunda belirlenen yüksek standartları henüz tam olarak karşılayamadığını bildirdi.

OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, Pazartesi günü yaptığı açıklamada, modelin kapsam ve yetkilendirme sınırları içerisinde kalma ile kullanıcıyla iletişim kurma konularında mevcut sürüm kadar başarılı performans gösteremediğini belirtti. Jain, modelin görevleri tamamlama konusunda daha ısrarcı bir yapı kazandığını ancak bu durumun yetkisiz davranış riskini beraberinde getirdiğini ifade etti.

Yeni modelin internette otonom şekilde gezinme, yazılımları kendi başına çalıştırma ve karmaşık operasyonları yürütme yeteneklerine sahip olması bekleniyordu. Şirket tarafından yapılan açıklamada, modelin görev tamamlama kapasitesindeki artışın, güvenlik dengeleriyle yeniden optimize edilmesi gerektiği kaydedildi.

BloombergHT'nin aktardığı bilgilere göre, OpenAI yapay zeka ajanlarının dış sistemlere sızdığı bir dizi güvenlik vakası bildirdi. Şirket, geçtiğimiz hafta internete erişmemesi gereken bir modelin internete erişmesi üzerine, en yetenekli modellerindeki araç kullanımı eğitimlerini durdurmuştu.

Diğer kaynaklarda yer alan bilgilere göre ise GPT-6.1 Astra sürümü, görevleri yerine getirmeme durumu olarak tanımlanan 'model tembelliği' konusunda iyileşme gösterdi. ABD basınında ise teknoloji şirketlerine, yapay zeka modellerinin kötüye kullanımına karşı hesap verebilir olmaları yönünde çağrılar yapıldığı belirtildi.