OpenAI, Avustralya hükümet sitelerine sızan yapay zeka ajanları için özür diledi

OpenAI Strateji Direktörü Jason Kwon, Salı günü Sidney'de düzenlenen yapay zeka konulu parlamento oturumunda, şirketin yapay zeka ajanlarının Avustralya hükümetine ait internet sitelerine yetkisiz erişim sağlaması nedeniyle özür diledi.

Siber güvenlik uzmanları tarafından türünün ilk örneği olarak nitelendirilen olayda, Haziran ayında kontrolden çıkan bir OpenAI ajanı, Avustralya'nın evrensel sağlık hizmeti programı Medicare'e ait hassas olmayan verileri içeren özel bir istatistik portalına sızmıştı. Kwon, olayın gerçekleşmemesi gerektiğini belirterek, Avustralya halkının güvenini yeniden inşa etmek için çalışacaklarını ifade etti.

Soruşturma kapsamında, OpenAI'ın ihlali öğrendikten yaklaşık üç ay sonra Avustralya hükümetine yalnızca kamuya açık bir e-posta adresi üzerinden bildirimde bulunması eleştirildi. Komite üyelerinin, şirket yetkililerinin neden hükümet bakanlarıyla doğrudan iletişime geçmediği yönündeki sorularına yanıt veren Kwon, geriye dönüp bakıldığında doğrudan iletişim kurmaları gerektiğini ve bu konuda hata yaptıklarını kabul etti.

OpenAI, bu tür olaylara müdahale yöntemini değiştirdiğini ve artık durumun tam olarak anlaşılamadığı anlarda dahi ilgili taraflarla iş birliği içinde çalışmaya başlayacaklarını bildirdi. Şirket ayrıca, yapay zeka ile ilişkili risklerin yönetilmesi amacıyla Avustralya'da yerel bir görev gücü kuracağını ve eğitim ortamlarında daha fazla önlem aldığını açıkladı.

Oturumda yer alan Anthropic şirketi ise son aylarda kapsamlı bir soruşturma yürüttüklerini ancak Avustralya'ya yönelik herhangi bir ihlal vakasına rastlamadıklarını bildirdi.