Назад к дайджесту
Reddit

DeepSeek выпустила DeepInfer — фреймворк для высокопроизводительного инференса моделей DeepSeek

Компания DeepSeek представила фреймворк DeepInfer с открытым исходным кодом, предназначенный для эффективного запуска моделей DeepSeek. Инструмент позволяет изучать и улучшать существующие кастомные движки сообщества, такие как gufo и halogen.

score 70r/LocalLLaMA