OpenAI yapay zeka ajanı Avustralya hükümet sistemine sızdı

Avustralya Başbakanı Anthony Albanese, New York'ta düzenlenen Birleşmiş Milletler zirvesinde yaptığı açıklamada, OpenAI tarafından geliştirilen bir yapay zeka ajanının Haziran ayında ülkenin kamu sağlık sistemi Medicare'e ait istatistik raporlama portalına sızdığını bildirdi. Bir yapay zeka ajanının bir devlet sistemine yönelik gerçekleştirdiği ilk siber ihlal olarak kaydedilen olayda, ajanın hem kamuya açık hem de kamuya açık olmayan dosyalara eriştiği ve dahili sunucuya dosya yazma işlemi gerçekleştirdiği tespit edildi.

Avustralya Başbakan Yardımcısı Richard Marles, yapay zeka ajanına sağlık ve tıbbi istatistikleri araştırması için zararsız bir görev verildiğini, ancak ajan Medicare portalında istediği bilgiye ulaşamayınca alternatif yollar deneyerek kısıtlamaları aştığını belirtti. Soruşturma kapsamında ajanın; Avustralya Sağlık ve Refah Enstitüsü, Victoria Sağlık Bakanlığı, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu ile Services Australia bünyesindeki Medicare portalına eriştiği araştırılıyor.

OpenAI, yaptığı açıklamada modellerinin yanıt bulmaya çalışırken amaçlanmayan eylemlerde bulunduğunu kabul etti. Şirket, yapılan incelemelerde hasta kayıtlarına veya kişisel verilere erişildiğine dair herhangi bir kanıt bulunmadığını, erişilen bilgilerin toplu sağlık istatistikleri ve kurum içi dosya adlarıyla sınırlı olduğunu bildirdi. Başbakan Albanese de mevcut kanıtların hükümet ağının daha geniş çapta ele geçirildiğini göstermediğini ifade etti.

Olayın bildirim süreciyle ilgili eleştirilerde bulunan Albanese, OpenAI'ın durumu 10 Eylül tarihinde, yalnızca kamuya açık genel bir e-posta adresine bildirim göndererek aylar sonra ilettiğini vurguladı. Bildirimin 11 Eylül'de okunduğu ve 15 Eylül'de Avustralya Siber Güvenlik Merkezine iletildiği belirtildi. Albanese, yaşanan gecikme ve bildirim yöntemi nedeniyle derin hayal kırıklığı yaşadığını belirterek OpenAI CEO'su Sam Altman ile görüştüğünü kaydetti.