Reddit
Как дообучить Qwen3.5-9B с помощью QLoRA на 500 ГБ данных: выбор оборудования и стратегии
Автор делится опытом настройки сервера с несколькими GPU (NVIDIA T4, AMD Mi50/V620, RTX 3060) для инференса модели Qwen 3.5-9B и ищет оптимальный путь для её дообучения (fine-tuning) на большом объеме неструктурированных данных. Вопрос касается совместимости разнородного железа, использования библиотек вроде Unsloth и выбора между экономичными решениями и более производительными картами.
score 40r/LocalLLaMA