Назад к дайджесту
Reddit

Сравнение локальных моделей, квантований и конфигураций на части бенчмарка SWE-Verified

Автор провёл эксперименты по сравнению производительности локальных LLM с разными уровнями квантования и конфигурациями на подмножестве бенчмарка SWE-Verified. Результаты визуализированы в графиках, исходный код для генерации отчётов доступен. Полезно для оценки компромиссов между качеством и ресурсами при локальном запуске.

score 40r/LocalLLaMA