Назад к дайджесту
Reddit

RTX PRO 4000 Blackwell SFF: прирост 67% на Qwen3.8 27B и иная динамика масштабирования на Qwen3.6 35B A3B

Автор провел эксперимент по разгону компактной видеокарты RTX PRO 4000 Blackwell SFF, повысив лимит питания с 70 до 120 Вт без перепайки микросхем. Тестирование показало, что модель Qwen3.8 27B выигрывает до 67% в скорости генерации при разгоне памяти и ядра, в то время как Qwen3.6 35B A3B демонстрирует почти плоскую кривую производительности в диапазоне 106–120 Вт. Исследование подчеркивает важность баланса между этапами префилла и декодирования при оптимизации ресурсов.

score 40r/LocalLLaMA