Согласно заявлению, опубликованному на сайте OpenAI, новый инструмент классификации изображений анализирует визуальные признаки, чтобы выявлять изображения с жестоким обращением с детьми, которые ранее не обнаруживались. Инструмент предоставляет группам модерации оценки, показывающие, какие изображения следует проверять в первую очередь.
Компания бесплатно предоставит одобренным организациям систему, которую она называет первым классификационным инструментом с отдельным сигналом для выявления созданных искусственным интеллектом онлайн-материалов с жестоким обращением с детьми, доступным широкому кругу пользователей.
Блокировка доступа к ChatGPT на 24 часа

В дополнение к действующим мерам безопасности OpenAI внедрит в ChatGPT новые механизмы предупреждения, которые будут пресекать попытки поиска материалов с жестоким обращением с детьми. Пользователю объяснят, что такой контент причиняет вред, даже если он создан искусственным интеллектом.
Помеченный чат будет удален, а доступ пользователя к ChatGPT приостановят на 24 часа; в этот период ему также предложат помощь специалистов, направленную на прекращение вредного поведения. При повторных нарушениях могут последовать более длительные ограничения, закрытие аккаунта или передача информации о ситуации властям.
В компании сообщили, что разработали этот подход при участии организаций, работающих над предотвращением жестокого обращения с детьми, и академических консультантов.