Параллельное во времени обучение рекуррентных нейросетей для реконструкции динамических систем

Исследователи предлагают метод ускорения обучения нелинейных RNN на хаотических временных рядах более чем в 100 раз. Комбинация алгоритма DEER и обобщенного принуждения учителя (GTF) позволяет стабилизировать процесс и эффективно использовать GPU-параллелизм для последовательностей длиной свыше миллиона шагов.