GitHub
LTZY-API: шлюз для LLM с поддержкой OpenAI-совместимого API
Проект представляет собой решение для самостоятельного развертывания (self-hosted) шлюза больших языковых моделей, совместимого с API OpenAI. Инструмент обеспечивает единый доступ к собственным моделям, предлагая функции интеллектуальной маршрутизации, точного биллинга, управления квотами и группами пользователей.
276 forksGoscore 74.1
billingopenaiapi-gatewayself-hostedanthropicgeminigolangopenai-compatibledeepseekllm