Назад к дайджесту
Новость

Как развернуть Kimi K3 локально на Cerebras

Статья объясняет методику распределения больших языковых моделей между несколькими пластинами Cerebras WSE-3T для их локального запуска. На примере открытой модели Kimi K3 с 3 триллионами параметров демонстрируется, как достичь скорости генерации 1000–2000 токенов в секунду, обходя ограничения по памяти одного чипа.