Reddit
DeepSeek выпустила DeepInfer — фреймворк для высокопроизводительного инференса моделей DeepSeek
Компания DeepSeek представила фреймворк DeepInfer с открытым исходным кодом, предназначенный для эффективного запуска моделей DeepSeek. Инструмент позволяет изучать и улучшать существующие кастомные движки сообщества, такие как gufo и halogen.
score 70r/LocalLLaMA