GitHub
Rapid-MLX: сверхбыстрый локальный ИИ-движок для Apple Silicon
Новый локальный ИИ-движок Rapid-MLX оптимизирован для Apple Silicon, обещая скорость в 4.2 раза выше, чем у Ollama. Инструмент поддерживает вызовы инструментов, кэширование промптов и работает как прямая замена OpenAI API. Совместим с популярными AI-ассистентами, такими как Cursor и Aider.
25064 forksPythonscore 80.1
pythonapple-siliconhacktoberfestmacosinferencetool-callingllmopenai-apimlxfastapi