Назад к дайджесту
Reddit

Почему AutoRound так игнорируют?

Пользователь поднимает вопрос низкой популярности инструмента квантования AutoRound, отмечая его превосходство над AWQ и RTN в сохранении точности моделей. Обсуждаются гипотезы о причинах: возможная путаница с брендом Intel, время калибровки или проблемы совместимости, хотя экспорт в GGUF уже реализован. Автор ищет отзывы от сообщества о практическом опыте использования.

score 40r/LocalLLaMA