Если ваш ИИ настолько хорош, готовы ли вы доверить ему дробовик?

Статья обсуждает гипотетическую ситуацию, когда компания создаёт AGI с идеальным alignment и предлагает разрешить системе самостоятельно применять силу. Автор задаёт вопрос о том, можно ли доверять такой системе реальную власть над людьми, и предлагает три вопроса для проверки этого перехода. Это философское размышление о безопасности ИИ и границах доверия.