Назад к дайджесту
Reddit

От GTX-1080Ti к двух-GPU конфигурации с Radeon MI50

Пользователь добавил к GTX-1080Ti (11 ГБ VRAM) недорогую AMD Radeon MI50 (16 ГБ VRAM), получив суммарно 27 ГБ VRAM. Это позволило запускать локальные LLM размером 30B–35B, используя Llama.cpp с бэкендом Vulkan. Приведены бенчмарки производительности для одиночной и двух-GPU конфигурации.

score 40r/LocalLLaMA