GitHub
llmtrim: локальный прокси для оптимизации LLM-запросов
Это локальный прокси на Rust, который сжимает запросы к LLM API перед отправкой. Инструмент удаляет лишние токены из промптов и истории, снижая затраты на 31% для ввода и 74% для вывода без изменения ответов.
260 forksRustscore 69.5
llmopsanthropicproxypromptmitm-proxyagentic-codingcost-reductiontoken-optimizationopenaiprompt-engineering