Назад к дайджесту
Reddit

LLM Planner: гид по выбору железа и моделей для локального запуска

Сервис LLM Planner помогает подобрать конфигурацию железа под конкретную модель или выбрать модель под имеющееся оборудование. База включает 60+ сборок, метрики производительности (токенов/сек), энергопотребление и цены, ссылаясь на 130+ источников. Проект открыт: данные обновляются еженедельно, а исходный код доступен в GitHub.

score 42r/LocalLLaMA