Reddit
Настройка Qwen 3.8 27B и OMP в качестве агента-кодера на двух 3090
Автор делится опытом настройки Qwen 3.8 27B и OMP (Oh My Pi) с vLLM на двух видеокартах 3090. Изменение параметров OMP — явный уровень усилия для каждой роли, бюджет мышления 7500 токенов, увеличение maxTokens до 32k, запись вывода инструментов в файл, до 4 субагентов — позволило сократить среднее время ожидания на ход с 28 до 7 секунд.
score 40r/LocalLLaMA