Reddit
Добавлена поддержка модели Xing4.0 в llama.cpp
В репозиторий llama.cpp добавлена поддержка модели Xing4.0-29B-A4B от China Telecom. Это MoE-модель с 29 миллиардами параметров, из которых активируется только 4 миллиарда, что обеспечивает эффективное выполнение сложных задач и работу с контекстом до 256K токенов.
score 55r/LocalLLaMA