Локальный запуск Qwen3.8-27B на RTX 5070 Ti: тест производительности и качества

Автор тестирует работу модели Qwen3.8-27B в квантованном формате IQ3 на видеокарте RTX 5070 Ti. При контексте 131K модель демонстрирует скорость 68.3 токена в секунду и достигает 91.1% успеха на пользовательских задачах, опровергая мнение о недостаточности такого объема контекста.