GitHub
Дашборд для мониторинга LLM и аппаратных ресурсов
Инструмент для отслеживания метрик инференса языковых моделей и состояния оборудования в реальном времени. Отображает данные по GPU, CPU, памяти и библиотеке vLLM. Полезен для инженеров, управляющих инфраструктурой нейросетевых сервисов.
214 forksTypeScriptscore 74.9
sparkgpumetricsai-monitoringaidgxgpu-monitoringllm-monitoringnvidiavllm