DingoOz/llm-visuals: Визуализация метрик локальных LLM в терминале

Проект представляет собой панель мониторинга в реальном времени для локально запущенных языковых моделей, отображаемую в цветном терминале. Инструмент отслеживает ключевые метрики производительности, такие как скорость генерации токенов, время до первого токена (TTFT), использование GPU, длину контекста, а также параметры маршрутизации экспертов для моделей типа Llama.cpp.