Назад к дайджесту
Reddit

Квантование нелинейно ухудшает знания модели — кейс Qwen3.6 27B

Исследование показывает, что квантование языковых моделей снижает их знания нелинейным образом — некоторые области деградируют сильнее других. На примере Qwen3.6 27B демонстрируется, как сжатие модели влияет на разные типы знаний и задач.

score 55r/LocalLLaMA