Reddit
Исправлен шаблон для GPT-OSS: устранён баг Unsloth и добавлена поддержка preserve_thinking
Автор обновил шаблон токенизации для модели GPT-OSS, исправив критическую ошибку в версии от Unsloth, которая приводила к потере ответов модели при воспроизведении истории чата. В новое решение также включена функция preserve_thinking, позволяющая сохранять цепочки рассуждений для повышения стабильности многооборотных диалогов и использования префиксного кэширования.
score 40r/LocalLLaMA