Turbo-fieldfare: Открытый движок запускает Gemma 4 26B в 2 ГБ ОЗУ на Apple Silicon

Разработчики создали кастомный движок на Swift/Metal для инференса LLM на Mac. Он позволяет запускать модель Gemma 4 26B всего в 2 ГБ памяти вместо стандартных 14 ГБ. Инструмент поддерживает локальный сервер с совместимостью OpenAI и потоковой передачей.