Назад к дайджесту
Reddit

Среднеразмерные MoE-модели больших языковых моделей

Пользователь Reddit спрашивает о средних по размеру MoE-моделях (до 60B параметров в float8/110B в mxfp4), которые стоит использовать в продакшене. Упоминаются Qwen 3.5 35B, Gemma 4 A4B, Nemotron 3 Nano, а также DeepSeek v4 flash. Обсуждаются производительность и нишевые альтернативы в этом сегменте.

score 40r/LocalLLaMA