Почему связка из двух 5060 Ti не загружается выше 50%: это не баг, а особенность

Автор разбирает причину низкой утилизации GPU при запуске квантованной модели Qwen 27B на двух картах. Объясняется, что при послойном разделении модели одна карта простаивает, пока другая обрабатывает слой, а пропускная способность памяти ограничивает скорость генерации. Упоминается влияние отсутствия NVLink на режим параллельной обработки.