GitHub
Orion: локальный ИИ-рантайм для Apple Neural Engine
Проект Orion позволяет обучать и запускать небольшие языковые модели напрямую на нейронном движке Apple (ANE) без использования CoreML и Metal. Поддерживает офлайн-дообучение и инференс на процессорах M-серии, обеспечивая полную локальность вычислений.
11111 forksObjective-Cscore 60.4
neural-enginereverse-engineeringaillm-on-devicemachine-learningapple-silicon