Назад к дайджесту
Reddit

Think Less, Locally: Локальное обучение предпочтениям для сжатия рассуждений

Исследователи предлагают метод LoCo, который учит модели определять момент, когда дальнейшие рассуждения избыточны, используя локальное обучение предпочтениям. Метод сокращает длину вывода на 23-45% при сохранении или улучшении точности на математических и кодогенерационных задачах.

score 55r/LocalLLaMA