Почему сверхразумный ИИ будет подчиняться людям через 10 лет, а не действовать по своему усмотрению?

Пост поднимает фундаментальный вопрос проблемы выравнивания (alignment) в контексте сверхразумного ИИ. Обсуждается, как обеспечить подчинение продвинутых систем человеческим ценностям в долгосрочной перспективе. Тема критически важна для исследователей безопасности ИИ и этики развития ИИ.