Назад к дайджесту
GitHub

Antirion: быстрый открытый AI-шлюз на Rust

Antirion — это высокопроизводительный open-source шлюз для управления запросами к LLM, написанный на Rust. Он обеспечивает маршрутизацию, безопасность, контроль бюджета и мониторинг вызовов к таким провайдерам, как OpenAI, Anthropic, Gemini и AWS Bedrock, предлагая встроенную консоль для управления.

2297 forksRustscore 78.3
guardrailsbifrost-alternativeapi-gatewayopenaiself-hostedopenai-proxyanthropicrate-limitingrustlitellm-alternative