Концентрация власти: главная немедленная угроза от ИИ

Автор статьи утверждает, что реальная опасность искусственного интеллекта заключается не в проблемах выравнивания (alignment), а в стремительной концентрации богатства и власти. Внедрение AGI и рекурсивного самосовершенствования (RSI) может привести к тому, что несколько технологических компаний захватят значительную долю ВВП, заменив высококвалифицированный труд, что усугубит социальное неравенство.