Сколько в стоимости работы вашего AI-агента приходится на инфраструктуру, а сколько на саму задачу?

Автор обсуждает проблему скрытых расходов при развертывании AI-агентов, указывая, что затраты на системные промпты, логику планирования и middleware часто превышают стоимость самого запроса к модели. В обсуждении рассматриваются конкретные драйверы затрат: многократные контексты, повторные попытки и координация между агентами. Автор призывает делиться метриками стоимости за выполненную задачу вместо фокуса только на цене токенов.