Назад к дайджесту
Reddit

Qwen FN против 27B: кажется, я достиг потолка

Пользователь запустил модель Qwen FN на системе Strix и сравнивает её с 27B. Обе модели показывают отличные результаты, но автор считает, что 27B уже покрывает его повседневные задачи, а QFN не даёт заметного прироста. Он отмечает высокую производительность QFN (~30-40 TPS генерация, ~900-1000 TPS prefill) и приходит к выводу, что «достаточно хорошая» модель уже достаточна.

score 40r/LocalLLaMA