Reddit
Слишком хорошо, чтобы быть правдой? Квантованная модель DeepSeek-V4.1-Flash от ISTA показывает результаты на уровне базовой версии
Пользователи Reddit обсуждают результаты квантования модели DeepSeek-V4.1-Flash с помощью метода GSQ-RCO от ISTA. В центре внимания — утверждение о том, что модель в формате IQ2_XXS сохраняет качество базовой версии, что вызывает скептицизм из-за насыщенных бенчмарков и отсутствия данных по KLD или PPL.
score 40r/LocalLLaMA