Reddit
Ожидаемая производительность Intel Razor Lake-AX для LLM в 2028 году
На основе заявленных 700 TOPS чипа Razor Lake-AX прогнозируется скорость генерации около 46 токенов в секунду для модели на 27 миллиардов параметров. Это значительно превосходит текущие решения, такие как NVIDIA Jetson AGX Orin, и вдвое превышает производительность платформ уровня Strix Halo.
score 40r/LocalLLaMA