Исследование: ORL ускоряет диффузионные языковые модели до 2788 токенов/с на RTX 5090

Исследователи представили метод ORL (On-Policy Residual Learning) и движок dlmrt для ускорения диффузионных языковых моделей (dLLM). Технология позволяет достигать скорости генерации до 2788 токенов в секунду на одной видеокарте RTX 5090 за счет параллельного уточнения токенов и обучения на свежих траекториях модели. Проект полностью открыт и включает модели, код обучения и оценки.