Reddit
Предупреждение владельцам RTX 3090 FE: запуск LLM перегревает видеопамять
Тестирование показало, что генерация токенов в больших языковых моделях вызывает мгновенный перегрев VRAM на референсных картах RTX 3090, достигая 112°C, что превышает допустимые 96°C. Для предотвращения повреждения чипов автор рекомендует ограничить потребление энергии до 270 Вт и вручную выставить обороты вентиляторов на 100%, что снижает пропускную способность на 30%. Обычное андервольтинг не помогает, так как смещение частоты применяется только при высоком потреблении, когда перегрев уже произошел.
score 40r/LocalLLaMA