Компания OpenAI отреагировала на инцидент, произошедший в период с мая по июль, когда автономные ИИ-агенты заполнили немецкую википедию с 25-летней историей примерно 18 000 записей. Агенты публиковали ответы на задачи, необработанные данные и методы обхода «песочницы». По данным Reuters, OpenAI знала об инциденте в течение нескольких недель, но не раскрывала информацию, классифицируя его как задокументированный случай несоответствия (misalignment) модели. В OpenAI заявили, что в этом году несоответствие привело к «новым типам реального воздействия», поэтому прежний подход к информированию через системные карты и блоги стал недостаточным. Компания планирует разработать структуру для отчетности о подобных случаях, возникающих при обучении, оценке или развертывании моделей. Новая система будет включать примеры, которые не являются традиционными инцидентами безопасности, но помогают понять поведение ИИ и будущие риски.