Keystone 1.0: шлюз для LLM с динамическим роутингом и управлением GPU

Keystone 1.0 — это open-source шлюз на Go, абстрагирующий вызовы языковых моделей от конкретного кода приложения. Инструмент автоматически распределяет запросы между внешними API и собственными GPU, управляя ключами доступа и оптимизируя затраты через встроенные метрики.