Сравнение Unsloth и GSQ-RCO: бенчмарки DeepSeek-V4.1 с контекстом 512K

Разработчики Unsloth провели масштабное тестирование квантованных моделей DeepSeek-V4.1 в формате GGUF, сравнив их производительность с методом GSQ-RCO. Исследование охватывает 14 бенчмарков, включая сложные агентные задачи Terminal Bench и DeepSWE, при использовании контекстного окна до 512K токенов. Результаты показывают преимущество подхода Unsloth на 10-20% в ключевых метках и подвергают сомнению заявленные показатели восстановления точности квантования GSQ-RCO.