Успешный запуск Qwen 3.8 27B EXL3 на связке RTX 3060 и 5060 Ti

Пользователь делится опытом запуска модели Qwen 3.8 27B в формате EXL3 на двух видеокартах (RTX 5060 Ti 16GB и RTX 3060 12GB) с использованием tensor parallelism и движка exllamav3. Средняя скорость генерации составила 50 токенов/сек с MTP, без MTP — 22 токена/сек. Также упоминаются проблемы с балансировкой VRAM и предложения по улучшению конфигурации.