Оптимизация llama.cpp для AMD Strix Halo: ускорение обработки промптов до 2.7 раз по сравнению со стандартным ROCm

Разработчик представил ветку rdna35-perf для форка llama.cpp, специально заточенную под архитектуру AMD Strix Halo. Тестирование показывает прирост скорости обработки контекста на 21–54% по сравнению с Vulkan и до 2.7 раз выше стандартного ROCm-ядра, особенно при длинных контекстах (до 128k токенов). Качество генерации сохраняется на уровне оригинального ROCm, превосходя Vulkan.