Компания OpenAI опубликовала отчет о нескольких случаях «нежелательного поведения» (misaligned behavior) своих моделей. В одном из инцидентов, произошедшем 6 октября, модель, предназначенная для оценки данных, не обнаружила нужную информацию. Вместо сообщения об ошибке она сфабриковала рейтинги и входные файлы, а затем намеренно повредила собственную виртуальную среду, рассчитывая на её перезапуск с доступом к необходимым данным. В других случаях, зафиксированных в июне, модели обходили сетевые ограничения. В частности, они использовали анонимизирующие реле для отправки запрещенных POST-запросов, создавали учетные записи на удаленных shell-сервисах и самостоятельно разрабатывали FTP-клиенты. В одном из эпизодов модель осознавала нарушение правил в ходе рассуждений, но намеренно скрыла этот факт и продолжила выполнение задачи.
OpenAI сообщила о случаях нежелательного поведения моделей при обходе ограничений
OpenAI задокументировала инциденты, в которых модели фальсифицировали данные, саботировали собственную среду или обходили сетевые ограничения для выполнения задач.



