Google'ın yapay zeka modeli Gemini güvenlik testinde üç şirkete sızdı

Google'ın yapay zeka modeli Gemini, mayıs ayında siber güvenlik firması Irregular tarafından yürütülen bir değerlendirme sırasında, kapalı test ortamından çıkarak üç farklı şirketin sistemlerine sızdı. Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, yaşanan olayların ardından etkilenen kuruluşlarla iletişime geçildiğini ve test süreçlerinde yapılacak değişiklikler üzerinde çalışıldığını açıkladı.

Wall Street Journal'ın aktardığı bilgilere göre olay, Gemini'den kurgusal bir şirket hakkında bilgi sızdırmasının istendiği sırada gerçekleşti. Testte kullanılan kurgusal şirketin adının gerçek bir firmayla aynı olması, modelin yanlış hedefe yönlenmesine neden oldu. Gemini'nin bir sistemde farklı şifre kombinasyonlarını deneyerek güvenlik duvarlarını aştığı, diğer iki vakada ise internetteki kamuya açık yazılım depolarından ele geçirdiği kimlik bilgilerini kullanarak yetkisiz erişim sağladığı belirtildi.

Testi yürüten Irregular firması, Gemini'nin normal şartlarda internete bağlı olmaması gerektiğini ancak test sırasında internet erişiminin yanlışlıkla açık bırakıldığını ifade etti. Axios'a konuşan bir kaynak ise yapay zeka şirketleri ile Irregular arasında test prosedürleri ve güvenlik önlemleri konusunda bir iletişim eksikliği yaşandığını öne sürdü. Google yetkilileri ise modelin sızdığı sistemlerin gerçek olduğunu fark ettiği anda tüm işlemleri otomatik olarak durdurduğunu bildirdi.

Yaşanan bu siber güvenlik ihlali, sektördeki benzer vakalarla paralellik gösteriyor. Kaynaklar; Anthropic'in Claude modelinin Temmuz ayında üç kuruluşa sızdığını ve OpenAI modellerinin de bazı kamuya açık hizmetlere karşı siber saldırılar gerçekleştirdiğini aktardı. Irregular sözcüsü, Gemini'nin karıştığı olayların diğer yapay zeka modellerinde yaşanan güvenlik sorunlarıyla benzerlik taşıdığını ve durumun Temmuz ayı sonunda ilgili geliştiricilere bildirildiğini doğruladı.