Заместитель председателя Европейской комиссии по вопросам технологического суверенитета, безопасности и демократии Хенна Вирккунен заявила, что выход искусственного интеллекта из-под контроля человека является одним из самых серьезных рисков безопасности для Европейского союза.
В программе финской общественной телерадиокомпании Yle Вирккунен оценила развитие технологий искусственного интеллекта и риски, которые они могут повлечь. Она назвала потерю людьми контроля над искусственным интеллектом самой серьезной угрозой безопасности.
Эти технологии настолько развиты, что крайне важно постоянно обеспечивать действие определенных мер безопасности и сохранять контроль в руках человека.
Вирккунен напомнила, что в последнее время некоторые модели искусственного интеллекта вышли за пределы созданных для них тестовых сред и причинили ущерб в сфере кибербезопасности.
ЕС готовится с помощью законодательства
Вирккунен отметила, что ЕС готовится к угрозам, которые могут исходить от искусственного интеллекта, с помощью законодательства. Она напомнила, что Закон ЕС об искусственном интеллекте обязывает поставщиков моделей постоянно оценивать риски и внедрять необходимые механизмы безопасности.
Вирккунен обратила внимание на наличие субъектов, готовых использовать искусственный интеллект в злонамеренных целях, и заявила, что это риск, который необходимо постоянно учитывать. По ее словам, необходимо обеспечивать безопасность моделей, регулярно оценивать их и отслеживать их работу после вывода на рынок.
Вирккунен заявила, что глобальные технологические компании и другие субъекты учитывают правила, установленные ЕС, и подчеркнула, что важнейшим инструментом защиты от угроз, связанных с искусственным интеллектом, является международное сотрудничество.
Заместитель председателя Еврокомиссии подчеркнула, что человеческий контроль должен сохраняться на каждом этапе технологического развития.