Почему Авито создало собственную платформу для инференса ML/LLM вместо использования PaaS

ML Ops-инженер Авито объясняет, почему стандартные PaaS-решения неэффективны для задач машинного обучения и больших языковых моделей. Компания выбрала путь разработки собственной платформы на базе open-source ядра, чтобы лучше удовлетворить специфические требования инференса.