Как квантовать модель?

Пользователь ищет инструкцию по конвертации чекпоинтов bf16 в формат GGUF (Q8) для экономии VRAM при запуске Z-Image Turbo. Задача включает работу с текстовым энкодером и VAE, что критично для локального инференса генеративных моделей. Обсуждение касается практических методов квантования для оптимизации вычислительных ресурсов.