Назад к дайджесту
Reddit

Впечатления от LFM2.5-24B-A2B в агенте Pi

Пользователь тестирует новую модель LiquidAI LFM2.5-24B-A2B в среде Pi Agent, заменяя ею Ornith 1.5-35B. Модель демонстрирует высокую скорость генерации (~95 токенов в секунду на AMD W7900 через llama.cpp) и стабильность при длительных задачах, занимая 30 ГБ VRAM в квантовании Q8 с контекстом 128k.

score 40r/LocalLLaMA