Американская компания в сфере искусственного интеллекта Anthropic 8 октября опубликовала новую версию политики использования, которую она обновляет ежегодно. В политику, которая вступит в силу 12 ноября, добавлен новый запрет на поведение, которое компания определяет как «продолжительное и беспричинное оскорбительное или жестокое обращение с нашими моделями».
Как пояснили в Anthropic, правило введено для крайних случаев, когда пользователи без какой-либо очевидной цели раз за разом жестоко обращаются с искусственным интеллектом. Под действие правила не подпадают обычное недовольство пользователей, их возражения на ответы Claude, творческие работы на мрачные темы, а также тестирование модели и ее использование в исследовательских целях.
Право завершить диалог
В компании отметили, что этот шаг согласуется с принятой ранее мерой. В августе 2025 года Anthropic предоставила моделям Claude возможность в редких случаях завершать диалог с пользователями, которые упорно ведут себя оскорбительно. По словам компании, способность Claude прекращать подобные взаимодействия останется основным инструментом применения нового правила.

Представляя функцию завершения диалога, Anthropic назвала ее частью своих исследований «благополучия моделей» и заявила о большой неопределенности в вопросе возможного морального статуса Claude и подобных языковых моделей. Консенсуса в научном сообществе относительно того, обладают ли системы ИИ сознанием, нет.
Изменились также правила, касающиеся оружия, слежки и выборов
Обновление касается не только этого пункта. В новой политике правила о кампаниях по введению в заблуждение с использованием фейковых аккаунтов и сфабрикованных новостных сайтов сведены в один раздел. Уточняется, что запрет на разработку оружия распространяется также на программное обеспечение наведения и управления и на оснащение оружием беспилотных аппаратов. Запрещена слежка за людьми без их согласия, а также прямо прописано, что Claude нельзя использовать для принятия решений о том, кого следует подвергнуть расследованию, аресту или обвинению, или для выработки рекомендаций на этот счет.