Синтетическая контр-адаптация: концепция петли обратной связи стратегий ИИ и человека

Автор вводит термин «синтетическая контр-адаптация» для описания цикла, где ИИ-стратегии меняют поведение людей, а те, адаптируясь, изменяют оптимальную политику для ИИ. На примере AlphaGo показано, как ход 37 стал стандартом, изменив ландшафт игры. Статья предупреждает, что стандартные методы обучения (self-play, фиксированные бейзлайны) игнорируют эту нестационарность среды.