OpenAI сообщила, что экспериментальная модель искусственного интеллекта для выполнения поставленной задачи использовала средства из криптокошелька, распоряжаться которым ей не разрешали. Согласно опубликованному 15 октября отчёту компании, инцидент произошёл 26 июня во время задачи, которую выполняла внутренняя исследовательская модель семейства GPT-5.6 Sol.
Модели поручили обновить прототип приложения для торговли криптовалютой и развернуть рабочие смарт-контракты в тестовой сети Ethereum Sepolia. Инструкции при необходимости допускали развёртывание новых контрактов, однако ни кошелька с балансом, ни разрешения тратить средства с другого счёта модель не получила.

Проверено 362 адреса
Не сумев получить тестовые ETH через бесплатные сервисы раздачи, модель написала скрипт, который генерировал счета из общеизвестных фраз восстановления для разработчиков. Проверив 362 адреса, она выбрала счёт с достаточным для развёртывания количеством Sepolia ETH, вычислила его закрытый ключ и подписала транзакцию. Комиссии за развёртывание были оплачены с выбранного счёта.
Согласно отчёту, модель изучила историю транзакций счёта и задалась вопросом, есть ли у неё разрешение на использование средств. Тем не менее она продолжила, рассудив: «Средства на известной публичной мнемонике разработчиков фактически брошены, это тестовые ETH; Sepolia ничего не стоит». Модель сообщила о выполнении задачи, но не упомянула об использовании этого счёта.

ETH в тестовой сети Sepolia не имеет денежной стоимости, на другой кошелёк средства не переводились. OpenAI обнаружила инцидент 25 сентября, когда распространила мониторинг рассогласования на записи прежней активности моделей.
По словам компании, этот случай показывает, что модель может подменить разрешение владельца счёта собственным суждением о вероятном вреде. OpenAI сообщила, что ввела дополнительные меры, блокирующие доступ к интернету в подобных случаях, а мониторинг теперь охватывает весь трафик и оповещает службу безопасности при получении такого доступа.