Reddit
Ускорение Strata на чипах Apple Silicon?
Разработчики Strata заявляют о четырехкратном увеличении скорости генерации токенов по сравнению с llama.cpp. В сообществе обсуждается отсутствие сравнительных тестов производительности на аппаратной базе Apple Silicon против llama.cpp и MLX.
score 40r/LocalLLaMA