Назад к дайджесту
Reddit

Ускорение Strata на чипах Apple Silicon?

Разработчики Strata заявляют о четырехкратном увеличении скорости генерации токенов по сравнению с llama.cpp. В сообществе обсуждается отсутствие сравнительных тестов производительности на аппаратной базе Apple Silicon против llama.cpp и MLX.

score 40r/LocalLLaMA