Reddit
SkyIsNotGreen/Scion-35B-A3B: Тернарная MoE-модель на Hugging Face
На платформе Hugging Face представлена модель Scion-35B-A3B с архитектурой Mixture of Experts (MoE) и тернарными весами. Для быстрого тестирования доступен форк llama.cpp с готовыми бинарными файлами.
score 40r/LocalLLaMA