Назад к дайджесту
Reddit

Продакшн против демо: почему ИИ обходится дороже

Автор внедрил AI-функцию в продакшн и столкнулся с резким ростом расходов из-за масштабирования токенов на реальных запросах. Реальные пользователи задают более длинные вопросы, а добавленный контекст удваивает длину промптов, что не было видно в демо. Отсутствие детализации в дашборде OpenAI вынуждает вручную сопоставлять данные для контроля бюджета.

score 30r/MachineLearning