Назад к дайджесту
Reddit

Низкая температура делает модель глупее при написании кода: предупреждение для начинающих

Эксперимент на модели Qwen3.8 показывает, что жадный декодинг (temperature=0) значительно снижает качество генерации кода по сравнению с более высокими значениями температуры. Автор объясняет, что отсутствие случайности ограничивает креативное мышление модели и повышает риск зацикливания, в то время как бенчмарки часто используют t=0 для искусственного завышения показателей скорости.

score 40r/LocalLLaMA