Создаём компилятор LLM с нуля: от PyTorch к CUDA за 5000 строк Python

Разработчик реализовал упрощённый ML-компилятор на чистом Python, который трансформирует модели PyTorch в CUDA-ядра за 5000 строк кода. Проект детально показывает стек компиляции от графа FX до оптимизированных ядер, достигая 50-90% производительности промышленных решений вроде torch.compile. Это ценный практический ресурс для понимания внутренней работы ML-компиляторов и оптимизации LLM.