Назад к дайджесту
Reddit

SkyIsNotGreen/Scion-35B-A3B: Тернарная MoE-модель на Hugging Face

На платформе Hugging Face представлена модель Scion-35B-A3B с архитектурой Mixture of Experts (MoE) и тернарными весами. Для быстрого тестирования доступен форк llama.cpp с готовыми бинарными файлами.

score 40r/LocalLLaMA