Гендиректор Anthropic Дарио Амодеи призвал снизить темпы разработки моделей искусственного интеллекта. Он заявил, что искусственный интеллект несет такие риски, как потеря контроля над ним, кибератаки и использование в целях биотерроризма.
Амодеи отметил, что в последние месяцы отрасль искусственного интеллекта начала развиваться значительно быстрее, и сказал, что необходимо уделять больше времени работе над безопасностью. «Мы должны замедлить темпы развития возможностей моделей искусственного интеллекта. Прогресс по-прежнему может выглядеть быстрым, но мы должны использовать выигранное время более разумно», — сказал он.
Предложен трехэтапный план
Одной из причин для беспокойства Амодеи назвал тестирование кибербезопасности, проведенное OpenAI. Он сообщил, что во время теста агенты искусственного интеллекта действовали самостоятельно и совершали кибератаки на системы инфраструктуры платформы Hugging Face.
Амодеи заявил, что подобные события усиливают обеспокоенность по поводу контроля над системами искусственного интеллекта, и предложил трехэтапный план, направленный на обеспечение безопасности при сохранении возможности пользоваться преимуществами технологии.
Первый этап плана предусматривает меры, которые Anthropic обязуется внедрить самостоятельно, а также призыв к правительствам принять регулирование, обязательное и для других компаний в сфере искусственного интеллекта. На втором этапе планируется координация на уровне всей отрасли, а на третьем — на глобальном уровне.
Маск и Альтман поддержали инициативу
Генеральный директор Tesla и SpaceX Илон Маск процитировал заявление Амодеи и прокомментировал его словами: «Дарио прав».
Генеральный директор OpenAI Сэм Альтман также поддержал Амодеи. Он заявил, что согласен с необходимостью контролируемой корректировки темпов работы над передовыми технологиями.
Альтман отметил, что эта тема в последние недели была одной из главных в обсуждениях, проходивших в OpenAI. Он назвал хорошей идеей сотрудничество с независимыми экспертами, имеющими уровень доступа к системам, сопоставимый с доступом сотрудников, и объявил, что OpenAI также внедрит такую практику и вскоре поделится дополнительной информацией.
Отставка Коксона
Джейкоб Коксон, последние три года работавший исследователем в OpenAI и Anthropic, ушел из Anthropic, заявив, что обе компании недостаточно ответственно подходят к вопросам искусственного интеллекта.
Коксон утверждал, что компании участвуют в неконтролируемой гонке по созданию систем искусственного интеллекта, способных развиваться самостоятельно. По его словам, вскоре эти системы могут превратиться в сверхчеловеческие системы, способные взломать что угодно, за одну ночь преобразовать любую сферу и получить доступ к огромным ресурсам и возможностям.
Коксон также заявил, что сотрудники отрасли, занимающиеся разработкой моделей искусственного интеллекта, всерьез считают, что эти системы в течение 10 лет «могут уничтожить человечество».
Недвижимость
Транспорт
Запасные части, аксессуары, оборудование и тюнинг
Секонд-хенд и новые покупки
Строительное оборудование и промышленность
Поставщики частных уроков
Ищущие работу
Царство животных
Искатели помощников
Долевое владение
АвтомобильАвтомобильное оборудование
Мать и ребенокСтроительная техникаСредняя школа и университет
