Назад к дайджесту
GitHub

llmtrim: локальный прокси для оптимизации LLM-запросов

Это локальный прокси на Rust, который сжимает запросы к LLM API перед отправкой. Инструмент удаляет лишние токены из промптов и истории, снижая затраты на 31% для ввода и 74% для вывода без изменения ответов.

260 forksRustscore 69.5
llmopsanthropicproxypromptmitm-proxyagentic-codingcost-reductiontoken-optimizationopenaiprompt-engineering