Назад к дайджесту
Reddit

Сбой блока питания при нагрузке от тензорной параллелизации LLM

Автор столкнулся с внезапным отключением системы при запуске модели Qwen 3.8 27b в режиме тензорной параллелизации (tensor-parallel) на двух GPU. Проблема заключалась не в превышении общей мощности, а в колебаниях нагрузки, характерных для распределенных вычислений в LLM, что вызывало срабатывание защиты блока питания.

score 40r/LocalLLaMA