Назад к дайджесту
Reddit

Запуск Qwen 3.6 35B A3B на 2x RTX 5060 Ti

Пользователь успешно запустил модель Qwen 3.6 35B A3B на двух видеокартах RTX 5060 Ti 16GB с использованием LM Studio и квантования Q4, получая 90 токенов/сек. Запрашивает советы по оптимизации для перехода на Q6/Q8 и рекомендации по охлаждению при вертикальной установке GPU.

score 23r/LocalLLaMA