Характеризация роли токенов рассуждения в больших языковых моделях как состояния над токенами

Исследование анализирует функцию токенов рассуждения в больших языковых моделях, интерпретируя их как механизм поддержания состояния над последовательностью токенов. Работа посвящена внутренним механизмам работы LLM и пониманию того, как модели обрабатывают логические цепочки.