GitHub
Бенчмарк локальных LLM на Apple Silicon
Проект представляет собой нейтральный и воспроизводимый бенчмарк для тестирования локальных языковых моделей на устройствах Apple. Инструмент сравнивает производительность различных фреймворков, включая MLX, llama.cpp и CoreML, на Mac, iPhone и iPad. Это полезный ресурс для разработчиков, занимающихся оптимизацией запуска ИИ-моделей на «яблочном» оборудовании.
310 forksSwiftscore 64.3
benchmarkcoremliosmlxon-device-aiapple-siliconllama-cppllm-inferencellmmacos