Инференс-движки превратятся в разовые решения

Автор утверждает, что специализированные инференс-движки, оптимизированные под конкретные модели и железо, вытеснят универсальные решения вроде llama.cpp и vLLM. Это связано с тем, что узкая специализация позволяет быстрее внедрять улучшения, а развитие ИИ-кодинга снижает порог входа для создания таких разовых инструментов.