Разработчик создал конфигуратор Mac для запуска локальных LLM

Автор создал веб-инструмент modelfit.io, помогающий пользователям подбирать конфигурацию Mac mini для запуска локальных языковых моделей. Сервис показывает совместимость моделей с памятью и прогнозирует скорость инференса на основе реальных бенчмарков llama-bench.