Назад к дайджесту
GitHub

Дашборд для мониторинга LLM и аппаратных ресурсов

Инструмент для отслеживания метрик инференса языковых моделей и состояния оборудования в реальном времени. Отображает данные по GPU, CPU, памяти и библиотеке vLLM. Полезен для инженеров, управляющих инфраструктурой нейросетевых сервисов.

214 forksTypeScriptscore 74.9
sparkgpumetricsai-monitoringaidgxgpu-monitoringllm-monitoringnvidiavllm