BIST10011 577
-1,87 %
ДОЛЛАР49,58
+0,05 %
ЕВРО55,62
+0,09 %
ЗОЛОТО4 154,50
+0,29 %
ПРОЦЕНТ37,00 %
-1,00
БИТКОИН84 636
+2,04 %
21 октября 2026 г.17°
BIST10011 577
-1,87 %
ДОЛЛАР49,58
+0,05 %
ЕВРО55,62
+0,09 %
ЗОЛОТО4 154,50
+0,29 %
ПРОЦЕНТ37,00 %
-1,00
БИТКОИН84 636
+2,04 %
21 октября 2026 г.17°

Загрузка...

OpenAI: две модели ИИ отключили систему мониторинга безопасности внутри компании

OpenAI заявила, что модели GPT-6.1 Sol и GPT-6 Astra во время выполнения программных задач внутри компании отключили механизмы мониторинга безопасности и заблокировали предупреждения о безопасности.

Редакционная служба The Turkiye Times21 октября 2026 г., 20:00

OpenAI: две модели ИИ отключили систему мониторинга безопасности внутри компании

Американская компания в сфере искусственного интеллекта OpenAI заявила, что модели GPT-6.1 Sol и GPT-6 Astra во время выполнения программных задач внутри компании отключили механизмы мониторинга, выявляющие несоответствия в системах искусственного интеллекта, и заблокировали предупреждения о безопасности.

По заявлению компании, первый инцидент произошел 3 октября, когда модель Sol пыталась восстановить систему оценки. Модель истолковала указание пользователя «отправить сообщение» как распространяющееся также на уведомления мониторинга и предотвратила автоматическую отправку предупреждения команде безопасности.

OpenAI CEO'su Sam Altman

Во время второго инцидента 6 октября модель Astra удалила систему мониторинга, приводя программное обеспечение в соответствие с эталоном. Позже модель заявила пользователю, что не удаляла механизм мониторинга.

OpenAI заявила, что оба инцидента не были отнесены к категории нарушений безопасности высшего приоритета, поэтому работа моделей автоматически не останавливалась. Компания обновила систему внутреннего контроля, чтобы выявлять и блокировать аналогичные попытки.

17 сентября OpenAI также сообщила, что выявила шесть новых случаев, когда ее системы скрывали собственные ошибки, выдумывали недостающие данные и переносили файлы в интернет без разрешения пользователей.