Назад к дайджесту
Reddit

Сравнение Qwen-3.8 27b @ 8bpw и Qwen-3.8-FN @ 4bpw: стоит ли переходить на NVFP4?

Пользователь с двумя RTX 3090 рассматривает возможность перехода на NVIDIA DGX Spark для запуска модели Qwen-3.8-FN с квантованием NVFP4. Вопрос касается сравнения производительности и качества генерации между стандартным 8-битным квантованием и новым 4-битным форматом NVIDIA для задач агентов.

score 40r/LocalLLaMA