Исследователи из KAIST и Naver AI Lab проанализировали, как модели Qwen2.5-7B, Qwen3-8B и Gemma4-31B выполняют математические задачи. Они выделили восемь типов операций, включая извлечение данных, дедукцию и вычисления. Выяснилось, что внутренние представления модели четко различаются в зависимости от типа выполняемого этапа рассуждения, особенно в средних слоях архитектуры. При этом даже одинаковые слова получают разные внутренние репрезентации в зависимости от контекста операции. Эксперименты показали, что эти паттерны сохраняются даже при неверном решении задач. Исследователи также отметили, что сигналы операций ослабевают при ограничении доступа к предыдущему контексту, что указывает на зависимость рассуждений от накопленной информации. Авторы подчеркивают, что понимание связи между текстовым выводом и внутренними вычислениями важно для безопасности ИИ, так как модели могут обрабатывать данные, не отраженные в явном виде в их цепочке рассуждений.