capy-flash v0.7.4: движок для двух GPU на базе Qwen3.8

Автор представляет собственный движок capy-flash v0.7.4, форк NInfer, оптимизированный для работы с моделями Qwen3.8-27B и Qwen3.8-Flash-Next на двух видеокартах NVIDIA RTX 50-й серии. Решение использует тензорное параллелизм по шине PCIe и кэширование экспертов в VRAM, поддерживая квантования NVFP4 и 3-bit для повышения скорости декодирования. Инструмент работает на Linux и Windows (через WSL2), позволяя масштабироваться с одной карты на две без смены конфигурации.