Дашборд для мониторинга инференса LLM

Разработчик представил локальный инструмент с ограниченным весом (64 МБ) для отслеживания метрик и логов при работе с различными движками генерации текста, такими как Llama, Unsloth и LMS. Утилита масштабируется через сетевые API и предоставляет более детальную статистику по сравнению со стандартными эндпоинтами.