AB Komisyonu yapay zekanın insan kontrolünden çıkmasını güvenlik riski saydı

Avrupa Birliği (AB) Komisyonunun Teknolojik Egemenlik, Güvenlik ve Demokrasiden Sorumlu Başkan Yardımcısı Henna Virkkunen, yapay zekanın insan kontrolünden çıkmasının Birlik için en ciddi güvenlik risklerinden biri olduğunu belirtti. Virkkunen, Finlandiya kamu yayıncısı Yle'de katıldığı programda, teknolojideki hızlı gelişmelerin beraberinde getirdiği risklere dikkat çekti.

Yapay zekaya yönelik en büyük tehdidin kontrol kaybı olduğunu ifade eden Virkkunen, teknolojinin mevcut gelişim seviyesi nedeniyle güvenlik önlemlerinin sürekli yürürlükte tutulması ve denetimin insanda kalmasının kritik önem taşıdığını vurguladı. Bazı yapay zeka modellerinin kendileri için ayrılan test ortamlarının dışına çıktığını belirten Virkkunen, bu durumun siber güvenlik açısından zararlara yol açtığını anımsattı.

AB'nin bu tür tehditlere karşı mevzuat düzeyinde hazırlık yaptığını kaydeden Virkkunen, AB Yapay Zeka Yasası kapsamında model sağlayıcılarına riskleri sürekli değerlendirme ve gerekli güvenlik mekanizmalarını uygulama yükümlülüğü getirildiğini hatırlattı. Virkkunen, yapay zekayı kötü amaçlarla kullanmaya hazır aktörlerin varlığını bir risk olarak nitelendirdi ancak bu durumdan korkmadığını dile getirdi.

Yapay zeka modellerinin güvenliğinin sağlanması için piyasaya sunulma sonrası izleme süreçlerinin önemine değinen Virkkunen, küresel teknoloji şirketlerinin AB kurallarını dikkate aldığını belirtti. Teknolojik gelişmenin her aşamasında insan denetiminin korunması gerektiğini ifade eden Virkkunen, yapay zekadan kaynaklanan tehditlere karşı korunmada en önemli aracın uluslararası iş birliği olduğunu söyledi.