От искусственного нейрона к Transformer: эволюционное дерево ИИ и что будет дальше

Статья прослеживает эволюцию архитектур ИИ от первых перцептронов и проблемы XOR до появления LSTM и доминирующих Transformer-моделей. Автор анализирует исторические вехи и фундаментальные проблемы, такие как исчезающий градиент, которые приводили к смене парадигм, и задается вопросом о следующей крупной эволюционной ступени после Self-Attention.