Назад к дайджесту
Reddit

Ожидаемая производительность Intel Razor Lake-AX для LLM в 2028 году

На основе заявленных 700 TOPS чипа Razor Lake-AX прогнозируется скорость генерации около 46 токенов в секунду для модели на 27 миллиардов параметров. Это значительно превосходит текущие решения, такие как NVIDIA Jetson AGX Orin, и вдвое превышает производительность платформ уровня Strix Halo.

score 40r/LocalLLaMA