Как Qwen застревает в петле рассуждений и как это исправить

Исследователи из MIT CSAIL устранили бесконечные циклы рассуждений в модели Qwen3.5-0.8B, отредактировав всего 0,016% весов. Применение правки позволило увеличить точность на наборе MATH-500 с 7,9% до 48,1% и изменить внутреннее состояние модели с сомнений на уверенность в результате. Авторы опубликовали дифф весов и код для локального воспроизведения эксперимента.