Оптимизация Qwen3.8-Flash-Next на 6 GPU RTX 3090 с vLLM: обход ограничений и фиксы для upstream

Автор демонстрирует запуск модели Qwen3.8-Flash-Next на потребительском железе (6xRTX 3090) с использованием модифицированной версии vLLM. Решение включает вынос таблицы n-грамм (PLE) на SSD для экономии RAM, использование int8 KV-кэша вместо fp8 и обход ограничений параллелизма, которые блокируют запуск модели в стандартном vLLM. Представленные патчи уже включены в основную ветку проекта.