Reddit
Запуск DeepSeek-V4.1-Flash на гибридной конфигурации DGX Spark и RTX 3090: рекордная скорость префилла
Автор публикует результаты развертывания модели DeepSeek-V4.1-Flash на нестандартной инфраструктуре, объединяющей два DGX Spark и сервер с RTX 3090. Конфигурация обеспечивает выдающуюся скорость префилла (более 2600 токенов/с для контекста 256K) и высокую пропускную способность структурированного вывода, превосходя популярные сборки от MiaAI в обработке длинных контекстов.
score 40r/LocalLLaMA