Назад к дайджесту
Reddit

GitHub — coder543/minnow: быстрый сервер инференса LLaDA2.2

Представлен minnow — высокопроизводительный сервер инференса для модели LLaDA2.2, размещённый на GitHub. Проект ориентирован на ускорение работы с диффузионными LLM и может быть полезен разработчикам, разворачивающим подобные модели.

score 55r/LocalLLaMA