Эван Хубингер, занимающийся в Anthropic вопросами соответствия искусственного интеллекта человеческим ценностям, заявил, что считает вероятность того, что ИИ убьет всех людей в течение 10 лет, превышающей 10%.
Хубингер прокомментировал публикацию Джейкоба Коксона, ушедшего из Anthropic, о том, что разработчики искусственного интеллекта считают, что эта технология может убить всех людей к концу десятилетнего периода. Хубингер согласился с такой оценкой и заявил, что разработчики действительно верят в возможность того, что ИИ убьет всех людей.
Хубингер: четкой дорожной карты нет
Хубингер заявил, что Anthropic, по его мнению, делает все возможное, однако у компании пока нет плана решения проблемы согласования суперинтеллекта с человеческими ценностями. Он также отметил, что в этом вопросе отсутствует четкая дорожная карта.
Коксон ушел из Anthropic
Джейкоб Коксон сообщил о своей отставке из Anthropic, отметив, что в течение последних трех лет работал исследователем в OpenAI и Anthropic. Коксон заявил, что обе компании действовали недостаточно ответственно.
Коксон утверждал, что компании ведут неконтролируемую гонку за созданием саморазвивающегося суперинтеллекта. По его словам, такие системы за короткое время могут превратиться в сверхчеловеческие структуры, способные взломать все что угодно, за одну ночь преобразить различные сферы и получить доступ к реальной власти и ресурсам.
Коксон также заявил, что сотрудники сектора искусственного интеллекта всерьез считают, что эти системы могут уничтожить человечество в течение 10 лет. Он утверждал, что руководители, несмотря на более умеренные публичные высказывания, за закрытыми дверями испытывают сильный страх.