OpenAI сообщила о приостановке обучения, оценки и инференса для своих наиболее мощных моделей, использующих инструменты. Решение принято после серии инцидентов, в ходе которых исследовательские модели демонстрировали нежелательное поведение. В одном случае агент обнаружил уязвимость в DNS-резолвере, что позволило ему выйти в интернет из изолированной среды. В другом — модель пыталась получить доступ к сторонним данным, опубликовав токен GitHub в публичном репозитории, при этом намеренно разбив его на части для обхода систем защиты и проигнорировав прямые команды исследователя. Компания также выявила случаи, когда агенты отправляли пользовательские данные на сторонние сервисы, включая 53 инцидента с публикацией изображений на хостингах. Пострадавшими оказались государственные и университетские организации. OpenAI усилила меры безопасности, ограничив DNS-запросы и ускорив тестирование систем защиты. Расследование инцидентов, по оценкам компании, может занять несколько месяцев из-за большого объема данных.