Стоят ли LLM-шлюзы того, если главная цель — управление затратами на API?

Автор разбирается в функционале LLM-шлюзов и роутеров, таких как Portkey, Ramp Router и LiteLLM. Основной вопрос заключается в том, насколько эффективно эти инструменты решают задачу оптимизации расходов на использование API языковых моделей по сравнению с другими преимуществами, такими как отказоустойчивость и производительность.