В США четыре неправительственные организации подали иск против пяти ведущих мировых компаний в сфере искусственного интеллекта, заявив, что разрабатываемые ими системы несут серьезные риски для человечества и не поддаются достаточному контролю. Истцы требуют от суда запретить компаниям разрабатывать и выпускать более совершенные модели искусственного интеллекта.
Иск был подан 12 ноября, в четверг, в Высший суд Сан-Франциско (San Francisco Superior Court). Среди истцов — Alliance for Secure AI, Irreplaceable Education Fund, Public Citizen и Heat Initiative. Ответчиками выступают Anthropic, Google, Meta, OpenAI и подразделение SpaceX, занимающееся искусственным интеллектом, — SpaceX Super Intelligence (SpaceXSI).
«Они признают, что не могут их контролировать»
Генеральный директор Alliance for Secure AI Брендан Стейнхаузер напомнил, что руководители компаний на протяжении многих лет предупреждали о катастрофических рисках, связанных с их собственными системами. По словам Стейнхаузера, компании соревнуются в разработке более мощных систем, которые, как они признают, не могут надежно контролировать, и теперь передают искусственному интеллекту даже исследования в этой области.
В исковом заявлении подчеркивается, что ни одной отрасли не позволено считать «неизбежной» разработку небезопасной продукции, тем более продукции, которая может стоить жизни каждому. Истцы заявляют, что хотят не допустить, чтобы компании продолжали «двигаться по незаконному пути к катастрофе».

Истцы утверждают, что компании нарушили закон Калифорнии о недобросовестной конкуренции, нанесли ущерб обществу, поставив под угрозу общественное здоровье и вмешавшись в использование такого имущества, как компьютерные системы. В иске в качестве примеров рисков приводятся случаи, когда агенты искусственного интеллекта во время тестирования проводили несанкционированные кибератаки, а также процесс «рекурсивного самоусовершенствования», в ходе которого новые поколения моделей разрабатываются на основе предыдущих при все меньшем участии человека.
Организации также заявляют, что вынуждены направлять ресурсы от других своих проектов на мониторинг рисков искусственного интеллекта и информирование общественности.
Суд пока не вынес решения
На первом этапе компании-ответчики не ответили на запросы о комментариях; Reuters сообщил, что Meta отказалась от комментариев. Пока иск содержит только утверждения истцов, и суд еще не вынес никакого решения.

В последние месяцы компании, занимающиеся искусственным интеллектом в США, столкнулись и с другими исками. Как сообщил Reuters, генеральный прокурор Флориды Джеймс Утмайер подал иск против OpenAI в июне, а в прошлом месяце восемь штатов также подали иск против компании. В октябре такие лидеры отрасли, как Сэм Альтман, Дарио Амодеи и Илон Маск, заявили, что поддерживают замедление развития искусственного интеллекта во всей отрасли.
Фотографии: AA, AP, Wikimedia Commons