Назад к дайджесту
Reddit

Улучшенный шаблон чата для Laguna XS/S 2.1: настраиваемое принудительное мышление и фиксы стабильности

Автор обновил шаблон чата для моделей Poolside Laguna, решая проблему ленивого рассуждения модели XS. Добавлены параметры force_thinking для включения мышления на каждом шаге и preserve_thinking для контроля сохранения токенов рассуждений в контексте, что оптимизирует использование окна контекста. Также внедрена валидация контрольных токенов и рекомендации по настройке для llama.cpp и Pi.

score 40r/LocalLLaMA