Оптимизация запуска Qwen3.8 27B на 16 ГБ VRAM без стратификации

Автор делится конфигурацией для локального запуска модели Qwen3.8 27B на видеокарте с 16 ГБ памяти, достигая контекстного окна в 110k токенов и скорости 55 t/s. Решение включает использование гибридной графики для освобождения VRAM и применение кастомных весов модели в формате GGUF с оптимизацией через llama.cpp.