Назад к дайджесту
Reddit

Улучшенный кодер для владельцев слабых GPU и малого объёма RAM

Автор доработал компактную модель Spark-X2.5-4B, чтобы она эффективно решала задачи агентного программирования на устройствах с ограниченными ресурсами — смартфонах и старых ноутбуках. Изменения включают исправление чат-шаблона, кастомную матрицу важности и оптимизированную квантизацию, что повышает качество реального кодинга. Результат позволяет запускать модель даже на слабом железе и получать лучшие показатели в бенчмарках вроде SWE-bench-Live.

score 40r/LocalLLaMA