GitHub
Inferoa: Агентный инструмент для оптимизации инференса и управления токенами
Это библиотека для разработки AI-агентов, сфокусированная на нативной поддержке инференса и максимизации эффективности токенов. Инструмент предназначен для инженерии циклов работы агентов, позволяя оптимизировать взаимодействие с языковыми моделями. Решение актуально для команд, стремящихся снизить стоимость инференса и повысить качество генерации.
8413 forksTypeScriptscore 87.4
agentic-ailoop-engineeringtokenmaxxingagent-harnesskvcachetokeninferenceharness-engineeringagentllm