api7/aisix

Открытый нативный шлюз для ИИ и прокси-сервер для LLM, написанный на Rust. Позволяет управлять трафиком к языковым моделям, обеспечивая безопасность, мониторинг и оптимизацию запросов.