Назад к дайджесту
Reddit

Векторы управления для ограничения бюджета мышления?

Автор интересуется, можно ли с помощью steering vectors направлять модель к завершению мыслительного процесса к n-му токену, вместо жёсткого обрезания бюджета или просьбы не думать слишком долго. Ищет ссылки на соответствующие исследования.

score 40r/LocalLLaMA