Flama: 8 лет разработки Python-фреймворка, где ML-модели и LLM — первоклассные граждане, статья на arXiv

Разработчики представили статью на arXiv о фреймворке Flama, позволяющем упаковывать модели (от scikit-learn до LLM) в единые файлы и разворачивать их через API. Архитектура поддерживает независимость протоколов (OpenAI, Anthropic, Ollama) и бэкендов (vLLM, MLX), обеспечивая унифицированный инференс и управление метаданными.