Запуск Qwen3.8-27B в FP8 на двух GPU: RTX 5090 и RTX 4070 Ti Super

Пользователь успешно развернул модель Qwen3.8-27B с квантованием block-FP8 на конфигурации из двух видеокарт NVIDIA с использованием vLLM и pipeline parallelism. Статья описывает технические детали распределения слоев между картами, настройки контекста и результаты бенчмарков скорости генерации.