Reddit
Продакшн против демо: почему ИИ обходится дороже
Автор внедрил AI-функцию в продакшн и столкнулся с резким ростом расходов из-за масштабирования токенов на реальных запросах. Реальные пользователи задают более длинные вопросы, а добавленный контекст удваивает длину промптов, что не было видно в демо. Отсутствие детализации в дашборде OpenAI вынуждает вручную сопоставлять данные для контроля бюджета.
score 30r/MachineLearning