Назад к дайджесту
Reddit

Сборка на 8 GPU R9700 для локального запуска больших моделей

Пользователь поделился конфигурацией рабочей станции на базе AMD Threadripper и восьмью видеокартами R9700, предназначенной для тестирования и запуска крупных языковых моделей. В описании упоминается использование фреймворка Qwen и эксперименты с моделями GLM, что указывает на фокус на локальном инференсе и подготовке инфраструктуры под будущие обновления.

score 40r/LocalLLaMA