Назад к дайджесту
Reddit

Добавлена поддержка модели Xing4.0 в llama.cpp

В репозиторий llama.cpp добавлена поддержка модели Xing4.0-29B-A4B от China Telecom. Это MoE-модель с 29 миллиардами параметров, из которых активируется только 4 миллиарда, что обеспечивает эффективное выполнение сложных задач и работу с контекстом до 256K токенов.

score 55r/LocalLLaMA