Назад к дайджесту
Reddit

Бенчмарки Radeon MI50 для локальных LLM

Автор тестирует две видеокарты AMD Radeon MI50 с 16 ГБ HBM2 каждая в конфигурации с общим объемом 32 ГБ VRAM. Проведены замеры производительности различных моделей от Qwen до Gemma и MoE-архитектур с помощью llama.cpp через Vulkan.

score 40r/LocalLLaMA