Запуск DeepSeek-V4.1 и Qwen3.8 на RTX 3090 Ti с обходом ограничений NVIDIA

Автор делится опытом запуска крупных MoE-моделей DeepSeek-V4.1 и Qwen3.8 на потребительской видеокарте RTX 3090 Ti, достигая высокой скорости генерации. Ключевым решением стала компиляция open-source модуля ядра gpu-unlock, который снимает искусственные ограничения прошивки NVIDIA на пропускную способность матричных операций FP16/BF16.