Мини-ПК на Strix Halo под параллельной нагрузкой: 236 токенов/сек на 32 запросах и три ошибки

Статья о тестировании мини-ПК Beelink GTR9 Pro с процессором Ryzen AI Max+ 395 в задачах генерации текста LLM. Описаны результаты: 236 токенов в секунду при 32 параллельных запросах без тротлинга, а также проблемы со спекулятивным декодингом. Приведены ссылки на открытый репозиторий с конфигами и телеметрией.