Статье «Attention is All You Need» исполнилось 9 лет: от генерации текста до решения проблем Навье-Стокса

Пост напоминает, что 9 лет назад вышла ключевая работа «Attention is All You Need», представившая архитектуру Transformer. Автор отмечает, что за это время системы на основе трансформеров прошли путь от едва связного текста до решения задачи о существовании и гладкости решений уравнений Навье-Стокса, которая десятилетиями не поддавалась лучшим математикам мира.