GitHub
Antirion: быстрый открытый AI-шлюз на Rust
Antirion — это высокопроизводительный open-source шлюз для управления запросами к LLM, написанный на Rust. Он обеспечивает маршрутизацию, безопасность, контроль бюджета и мониторинг вызовов к таким провайдерам, как OpenAI, Anthropic, Gemini и AWS Bedrock, предлагая встроенную консоль для управления.
2297 forksRustscore 78.3
guardrailsbifrost-alternativeapi-gatewayopenaiself-hostedopenai-proxyanthropicrate-limitingrustlitellm-alternative