FeatherAttn: Оптимизированное ядро обратного распространения внимания для Strix Halo в 4 раза быстрее FlashAttn

Разработчик представил оптимизированное ядро обратного распространения внимания (backward kernel) для GPU AMD серии RDNA3/3.5, в частности Strix Halo. Решение обеспечивает ускорение до 4 раз для размерности головы 128 по сравнению с текущей реализацией в AITER, что существенно ускоряет обучение LoRA для современных языковых моделей.