Оптимизация CUDA в llama.cpp: ускорение обработки MoE и GLU через слияние матричных операций

В репозиторий llama.cpp предложен пулл-реквест, внедряющий оптимизацию CUDA для слияния операций gate/up матричного умножения и GLU в модуле MMQ. Тестирование показывает прирост скорости обработки промптов для моделей Qwen3 до 17,2% на DGX Spark и около 6% на RTX 5090.