Создание GPU-компилятора с нуля: трансляция графов PyTorch в CUDA через многоуровневые IR

Автор делится опытом разработки собственного GPU-компилятора, оптимизированного для работы с vLLM и обслуживания LLM. Статья описывает процесс пошаговой трансляции операций PyTorch в CUDA-ядра с использованием промежуточных представлений (IR) для фьюжн-оптимизаций и генерации кода с учетом тензорных ядер.