Reddit
Спор между ISTA (GSQ-RCO) и Unsloth: почему конкуренция на пользу всем
Автор отмечает, что конкуренция между командами ISTA и Unsloth в области квантования моделей стимулирует развитие технологий и улучшает качество моделей для сообщества. Поднимается вопрос о прозрачности метрик: автор не понимает, почему ISTA не публикует значения KLD для своих квантований, так как это упростило бы объективное сравнение с решениями Unsloth.
score 40r/LocalLLaMA