GitHub
Книга по AI-инфраструктуре: количественный анализ и системное проектирование
Открытая рукопись Ли Боцзе, посвящённая глубокому пониманию AI-инфраструктуры. Автор исходит из аппаратных ограничений и архитектуры моделей, чтобы количественно вывести проектирование систем обучения и инференса больших языковых моделей. Включает полный текст, PDF, расчётные инструменты и эксперименты.
4.5k315 forksPythonscore 87.2
gpuperformance-engineeringai-infrastructureai-infrallm-servingdeepseekacceleratorkv-cachebookllm-training