Reddit
Квантование нелинейно ухудшает знания модели — кейс Qwen3.6 27B
Исследование показывает, что квантование языковых моделей снижает их знания нелинейным образом — некоторые области деградируют сильнее других. На примере Qwen3.6 27B демонстрируется, как сжатие модели влияет на разные типы знаний и задач.
score 55r/LocalLLaMA