1,2 млн вызовов моделей: от 0,07% до 24% нестабильности результатов при одинаковых запросах

Исследование на основе 1,2 миллиона вызовов моделей показывает, что при температуре 0 результаты идентичных запусков меняются в 0,07–10% случаев. На отдельных задачах расхождения достигают 24%, что указывает на скрытую стохастичность даже в детерминированных режимах работы LLM.