AReA: адаптивное внимание с изменяющимся полем восприятия для эффективных Diffusion Transformers высокого разрешения

Представлен метод AReA — механизм внимания без дообучения, адаптирующий размер поля восприятия в процессе денойзинга Diffusion Transformers. В ранних этапах используется грубое глобальное внимание для формирования структуры, а в поздних — локальное для детализации, что снижает вычислительные затраты и улучшает качество изображений сверх тренировочного разрешения.