Понимаем Autograd трансформеров: ручная реализация на PyTorch

Автор представляет минималистичную реализацию ручного вычисления градиентов (autograd) для классификатора на базе трансформеров в PyTorch. Этот проект помогает понять внутреннюю механику обратного распространения ошибки и отследить поток градиентов через блоки внимания, что полезно для написания пользовательских backward-проходов.