Понимание нагрузок GPU при инференсе

Пользователь Reddit ищет отзывы о выборе вычислительных ресурсов для задач инференса нейросетей, упоминая сервисы RunPod и Vast.ai. Автор предлагает заполнить опрос о проблемах при организации инфраструктуры для запуска ИИ-моделей.