Новость
Локальные LLM на iPhone: память, Core ML, MLX и ограничения
iOS-разработчик разбирает технические аспекты запуска локальных языковых моделей на устройствах Apple. Статья охватывает работу с Unified Memory, квантование, сравнение фреймворков Core ML и MLX, а также влияние троттлинга на генерацию. Практический гайд для инженеров, занимающихся edge AI и оптимизацией нейросетей.