Reddit
Почему AutoRound так игнорируют?
Пользователь поднимает вопрос низкой популярности инструмента квантования AutoRound, отмечая его превосходство над AWQ и RTN в сохранении точности моделей. Обсуждаются гипотезы о причинах: возможная путаница с брендом Intel, время калибровки или проблемы совместимости, хотя экспорт в GGUF уже реализован. Автор ищет отзывы от сообщества о практическом опыте использования.
score 40r/LocalLLaMA