Назад к дайджесту
GitHub

inferock-bench: локальный прокси для отслеживания затрат на LLM

Инструмент для локального мониторинга расходов на API языковых моделей от OpenAI, Anthropic, Gemini и OpenRouter. Предоставляет детализацию по использованию токенов, фиксацию ошибок и проверку целостности биллинга.

12549 forksTypeScriptscore 85.3
benchmarkllmgptllm-observabilityevalsgeminiclaudeopenaillmopstoken-counting