Reddit
5% утилизации ИИ-инфраструктуры: почему затраты на инференс и владение выросли до 41%
После бума генеративного ИИ компании массово закупали GPU-кластеры, но столкнулись с критической неэффективностью: средняя утилизация ресурсов составляет всего 5%. Совокупные расходы на инференс и владение инфраструктурой выросли с 34% до 41%. Проблема сместилась с дефицита вычислений на управление ресурсами и операционное управление.
score 60r/singularity