Как torch.compile() добивается огромного ускорения, несмотря на высокооптимизированные функции NumPy?

Автор создал упрощённую реализацию torch.compile на 500 строк Python, чтобы наглядно продемонстрировать принцип слияния операторов (operator fusion). Проект включает ноутбук, объясняющий, как компилятор ускоряет вычисления в PyTorch. Полезно для разработчиков, желающих понять внутреннюю оптимизацию фреймворка.