Reddit
Как снизить потребление токенов AI-агентом?
Разработчик AI-инфраструктуры ищет способы оптимизации расхода токенов при работе агента с множеством инструментов. Проблема заключается в том, что описания функций загружаются в контекст даже при простых запросах, что делает масштабирование невозможным без изменений. Автор просит рекомендации по техникам динамического выбора инструментов или сжатия контекста для экономии бюджета.
score 40r/AI_Agents