Если приближается ASI, исследователь выравнивания с суперчеловеческими способностями появится раньше

Автор поста аргументирует, что автоматизированные системы для исследований в области выравнивания (alignment) могут быть созданы с помощью рекурсивного самосовершенствования раньше, чем появится общее искусственное интеллектуальное превосходство (ASI). Утверждается, что создание узкого ИИ, превосходящего людей в одной задаче, проще, чем создание универсального сверхразума, что опровергает аргументы о неизбежности экзистенциальных рисков.