Reddit
Векторы управления для ограничения бюджета мышления?
Автор интересуется, можно ли с помощью steering vectors направлять модель к завершению мыслительного процесса к n-му токену, вместо жёсткого обрезания бюджета или просьбы не думать слишком долго. Ищет ссылки на соответствующие исследования.
score 40r/LocalLLaMA