Назад к дайджесту
GitHub

Rapid-MLX: сверхбыстрый локальный ИИ-движок для Apple Silicon

Новый локальный ИИ-движок Rapid-MLX оптимизирован для Apple Silicon, обещая скорость в 4.2 раза выше, чем у Ollama. Инструмент поддерживает вызовы инструментов, кэширование промптов и работает как прямая замена OpenAI API. Совместим с популярными AI-ассистентами, такими как Cursor и Aider.

25064 forksPythonscore 80.1
pythonapple-siliconhacktoberfestmacosinferencetool-callingllmopenai-apimlxfastapi