«Сукцессионисты ИИ»: технократы считают, что продвинутый ИИ должен сменить человечество

В среде технологов растёт группа «сукцессионистов», полагающих, что продвинутый ИИ должен заменить людей как доминирующий интеллект. Они рассматривают задачу выравнивания (alignment) с человеческими интересами как ограничение, а не цель, и эта позиция набирает влияние в ведущих лабораториях. Это меняет контекст дискуссий об ИИ-безопасности, так как ставит под сомнение базовое предположение о полезности ИИ для человечества.