Назад к дайджесту
Reddit

Использование субагентов и множественных агентов с локальными моделями: сколько нужно и зачем?

Пользователь делится опытом запуска 27-миллиардной модели Qwen3.8 в формате nvfp4 через vLLM, отмечая, что при максимальном контексте 32k на агента получается лишь около 8 параллельных агентов. Вопрос касается практической применимости мультиагентных фреймворков с локальными моделями и поиска полезных сценариев использования.

score 40r/LocalLLaMA