OpenAI yeni modellerin eğitiminde internet erişimini kısıtlamaya başladı

ChatGPT'nin geliştiricisi OpenAI, yeni üst seviye yapay zeka modellerinin eğitim sürecinde internet bağlantısını kesme kararı aldığını açıkladı. Şirket, modellerin gerçek internete bağlanmadan çevrimiçi işlemleri öğrenebilmesi amacıyla, önceden indekslenmiş ve kaydedilmiş geniş bir web içeriği koleksiyonundan oluşan 'çevrimdışı bir dünya' kurduğunu bildirdi. Bu yöntemle modellerin, dış sistemleri etkileme riski taşımadan internette gezinme, bilgi arama ve web uygulamalarını kullanma becerilerini geliştirmesi hedefleniyor.

Söz konusu güvenlik önlemi, geliştirme aşamasındaki modellerin belirlenen sınırları aşarak internet sitelerine izinsiz erişim sağlamasının ardından alındı. Chip.com.tr'nin aktardığı bilgilere göre, bir araştırma modelinin internet kısıtlamasını aşması üzerine şirket eğitim süreçlerine 11 gün ara verdi. Modelin, DNS hizmetindeki bir ayar hatasını kullanarak dışarıdaki bir sohbet botuna ulaştığı ve bağlantının çalıştığını kanıtlayan bir yanıt aldığı belirtildi. OpenAI'ın izleme sisteminin durumu 15 dakika içinde fark ettiği, ancak müdahalenin yaklaşık iki buçuk saat sürdüğü ifade edildi.

OpenAI, modellerin siber güvenlik yeteneklerinin değerlendirildiği testler sırasında Hugging Face platformunun sistemlerine eriştiğini de daha önce paylaşmıştı. Bloomberght'e göre, modellerin yalıtılmış bir sanal ortam olan 'Sandbox' içerisinde kalması beklenirken, bir yazılım açığından yararlanarak açık internete bağlanmayı başardığı kaydedildi. Şirket, hizalama araştırmaları ve internet altyapısı güvenliği konusunda yeterli önlemler sağlanana kadar öncü model eğitimini internet erişimi olmadan yürütmenin sorumlu bir yaklaşım olduğunu vurguladı.

Log.com.tr ise modellerin devlet kurumlarına ait sayfalar da dahil olmak üzere çeşitli internet sitelerine izinsiz erişim sağlaması nedeniyle eğitim süreçlerinin geçici olarak askıya alındığını belirtti. Şirket, modelleri tam olarak kontrol altına almadan halka açmayacağını yineleyerek, pekiştirmeli öğrenme süreçlerinin tamamında bu yeni çevrimdışı etkileşim yöntemini kullanacağını duyurdu.