Представляем GGUF Q8_CR: объединение преимуществ форматов GGUF и INT8 ConvRot

Автор представляет новый формат квантования GGUF Q8_CR, оптимизированный для диффузионных моделей, таких как Krea 2. Формат использует INT8 ConvRot ядра в ComfyUI для достижения скорости, близкой к нативному INT8, при этом сохраняя качество выше стандартного Q8_0. Решение позволяет эффективно запускать модели на видеокартах с ограниченной видеопамятью.