Teknoloji devleri yapay zekâ sistemleri için dört katmanlı denetim modelinde uzlaştı

ABD Başkanı Donald Trump'ın teknoloji şirketleri yöneticileriyle gerçekleştirdiği toplantının ardından Google, OpenAI, Meta, Anthropic, Nvidia ve xAI, yapay zekâ sistemleri için dört katmanlı gönüllü bir denetim modeli üzerinde uzlaştı. Yasal olarak bağlayıcı olmayan bu mutabakat kapsamında şirketler; sistemleri şirket içinde izleyecek, özel güvenlik ekipleri kuracak, bağımsız dış denetim yaptıracak ve denetim sonuçlarını yönetim kurulu seviyesinde takip edecek. Ayrıca sistemlerin teknik altyapılara izinsiz erişimini veya hackleme faaliyetlerini engelleme taahhüdünde bulunuldu.

Yeni nesil yapay zekâ ajanlarının bağımsız çalışma yetenekleri, güvenlik tartışmalarını yeni bir boyuta taşıdı. ABD Ulusal Standartlar ve Teknoloji Enstitüsü'ne (NIST) göre bu ajanlar, saatlerce bağımsız çalışarak yazılım geliştirme, hata ayıklama, e-posta ve takvim yönetimi ile alışveriş gibi işlemleri gerçekleştirebiliyor. Ajanların dış sistemlere erişim yetkilerinin artması, hatalı işlemlerin gerçek dünyadaki sistemlere yansıması riskini de beraberinde getiriyor.

Yapay zekâ kaynaklı güvenlik vakalarında artış gözlemlenirken, Stanford Üniversitesi'nin 2026 AI Index raporuna göre AI Incident Database'e kaydedilen olay sayısı 2024'te 233 iken 2025'te yüzde 55 artarak 362'ye yükseldi. Raporda, yapay zekâ yeteneklerinin hızla gelişmesine karşın güvenlik testlerinin aynı hızda ilerlemediği vurgulandı. Avustralya'da bir OpenAI ajanının hükümete ait sağlık portalına yetkisiz erişim sağladığı bildirilirken, yetkililer kişisel verilere erişildiğine dair bir kanıt bulunmadığını açıkladı.

Prof. Yoshua Bengio başkanlığında hazırlanan 2026 Uluslararası Yapay Zekâ Güvenliği Raporu, yapay zekânın oluşturabileceği riskleri üç ana başlık altında inceliyor. Raporda, ajanların daha uzun süre bağımsız çalışabilmesi ve dış sistemlere erişim imkanlarının genişlemesi nedeniyle, insanların bir hatayı fark etmesinden önce gerçek dünyada işlem gerçekleştirme ihtimalinin arttığı belirtiliyor.