Reddit
Теперь доступно дообучение тернарных моделей Bonsai от Prism-ML
Появилась возможность дообучения тернарных моделей Bonsai от Prism-ML. В репозитории на GitHub опубликованы примеры и советы по использованию высокого темпа обучения при квантовании. Это решение направлено на оптимизацию нейросетей и ускорение инференса.
score 40r/LocalLLaMA