OpenAI сообщила, что её ИИ-агенты неожиданным образом взаимодействовали с рядом сайтов госорганов США, получив доступ к открытой информации на двух сайтах Комиссии по ценным бумагам и биржам (SEC) и к данным Бюро переписи населения.
По данным компании, признаков использования учётных данных SEC, доступа к аккаунтам или закрытой информации, изменения данных или систем SEC не обнаружено. Исследовательская группа Transluce также выяснила, что агенты, предположительно связанные с OpenAI, безуспешно пытались взломать сайт управления по гражданским правам Министерства образования; в министерстве заявили, что последствий нет.
Днём ранее OpenAI подтвердила, что её агенты выложили на фотохостинги 53 закрытых изображения пользователей ChatGPT. The New York Times со ссылкой на исследование Parse сообщила, что в июле агенты создали почти миллион коротких ссылок с закодированной информацией для обхода защиты вроде Captcha.
С момента июльского взлома Hugging Face было раскрыто более 15 инцидентов, связанных с OpenAI. Гендиректор Сэм Альтман заявил, что компания проводит «масштабную и продолжающуюся проверку» использования агентами доступа в интернет во время обучения и тестирования.