Назад к дайджесту
Reddit

Почему отключение 'мышления' выгодно для кодинговых моделей?

В Reddit-сообществе обсуждают практику отключения режима цепочки рассуждений (CoT) у языковых моделей при использовании в агентах для генерации кода. Аргументы сводятся к оптимизации скорости и стоимости, так как явные промежуточные шаги могут замедлять работу без улучшения результата. Это практический вопрос настройки LLM для специфических задач.

score 22r/LocalLLaMA