Исследователи из KAIST и Naver AI Lab проанализировали, как языковые модели обрабатывают задачи, требующие пошаговых рассуждений. В ходе эксперимента с моделями Qwen2.5-7B, Qwen3-8B и Gemma4-31B ученые выделили восемь типов операций, включая вычисления, извлечение формул и дедукцию. Выяснилось, что внутренние представления модели различаются в зависимости от типа выполняемого действия, даже если используются одни и те же слова. Наиболее отчетливо эти различия видны в средних слоях архитектуры. Авторы работы отмечают, что внутренние состояния несут информацию о типе рассуждения, которая выходит за рамки поверхностного текста. Даже при неверном решении задачи модель сохраняет специфические паттерны активации, соответствующие выполняемому этапу. Исследователи подчеркивают, что понимание связи между текстовым выводом и внутренними вычислениями важно для безопасности ИИ, так как модели могут обрабатывать больше данных, чем отражается в их цепочке рассуждений.