Назад к дайджесту
Reddit

Бенчмарк Qwen3.8 Flash Next на RTX 5080: 250 токенов/с и 5600 токенов/с при обработке промпта

Тестирование модели Qwen3.8 Flash Next с квантованием IQ3_S на видеокарте RTX 5080 с 16 ГБ видеопамяти. Модель демонстрирует скорость генерации до 250 токенов в секунду и обработку промптов до 5600 токенов в секунду, эффективно используя 16 ГБ VRAM и 55 ГБ оперативной памяти.

score 40r/LocalLLaMA