Экономика инференса LLM: почему финансовому директору важно понимать разницу между Prefill и Decode

Статья раскрывает экономические аспекты работы LLM, разделяя инференс на фазы Prefill и Decode с принципиально разной нагрузкой на GPU. Автор аргументирует, что плоский тариф за токен не учитывает разницу в вычислительных ресурсах, что искажает реальную стоимость внедрения нейросетей. Понимание этих процессов критично для оптимизации AI-инфраструктуры и бюджета.