AB Komisyonunun Teknolojik Egemenlik, Güvenlik ve Demokrasiden Sorumlu Başkan Yardımcısı Henna Virkkunen, yapay zekânın insan kontrolünden çıkmasının Avrupa Birliği açısından en ciddi güvenlik risklerinden biri olduğunu söyledi.
Virkkunen, Finlandiya kamu yayıncısı Yle'deki programda yapay zekâ teknolojilerindeki gelişmeleri ve bu teknolojilerin yol açabileceği riskleri değerlendirdi. İnsanların yapay zekâ üzerindeki kontrolünü kaybetmesini en ciddi güvenlik tehdidi olarak tanımladı.
Bu teknolojiler o kadar gelişmiş durumda ki belirli güvenlik önlemlerinin sürekli yürürlükte olması ve kontrolün insanda kalması son derece önemli.
Virkkunen, son dönemde bazı yapay zekâ modellerinin kendileri için oluşturulan test ortamlarının dışına çıktığını ve siber güvenlik açısından zarara yol açtığını anımsattı.
AB mevzuatla hazırlık yapıyor
AB'nin yapay zekâdan kaynaklanabilecek tehditlere karşı mevzuat yoluyla hazırlık yaptığını belirten Virkkunen, AB Yapay Zeka Yasası’nın model sağlayıcılarına riskleri sürekli değerlendirme ve gerekli güvenlik mekanizmalarını uygulama yükümlülüğü getirdiğini hatırlattı.
Yapay zekâyı kötü amaçlarla kullanmaya hazır aktörlerin bulunduğuna dikkati çeken Virkkunen, bu durumun sürekli dikkate alınması gereken bir risk olduğunu ifade etti. Modellerin güvenli olduğundan, düzenli olarak değerlendirildiğinden ve piyasaya sunulduktan sonra da izlendiğinden emin olunması gerektiğini söyledi.
Virkkunen, küresel teknoloji şirketleriyle diğer aktörlerin AB tarafından belirlenen kuralları dikkate aldığını belirterek, yapay zekâ kaynaklı tehditlere karşı korunmada en önemli aracın uluslararası işbirliği olduğunu kaydetti.
AB Komisyonu Başkan Yardımcısı, insan denetiminin teknolojik gelişmenin her aşamasında korunması gerektiğini vurguladı.