Тестирование Intel Arc Pro B65 на длинных контекстах для моделей Flash-Next и Qwen

Автор провел бенчмарки Intel Arc Pro B65 для оценки влияния высокой пропускной способности памяти на производительность LLM. Протестированы модели Flash-Next и Qwen3.8-27B с длинными контекстами (до 200K токенов) с использованием vLLM, включая сценарии с выносом слоев в системную RAM.