Назад к дайджесту
GitHub

Книга по AI-инфраструктуре: количественный анализ и системное проектирование

Открытая рукопись Ли Боцзе, посвящённая глубокому пониманию AI-инфраструктуры. Автор исходит из аппаратных ограничений и архитектуры моделей, чтобы количественно вывести проектирование систем обучения и инференса больших языковых моделей. Включает полный текст, PDF, расчётные инструменты и эксперименты.

4.5k315 forksPythonscore 87.2
gpuperformance-engineeringai-infrastructureai-infrallm-servingdeepseekacceleratorkv-cachebookllm-training