Вопрос о безопасности AGI: если бы обещали никогда не создавать общий интеллект, остались бы страхи?

Автор поста, не являющийся экспертом в области ИИ, спрашивает, насколько актуальны текущие опасения по поводу угрозы человечеству от искусственного интеллекта, если бы существовало гарантированное обещание никогда не создавать искусственный общий интеллект (AGI). Обсуждается, является ли создание AGI тем самым финальным шагом, которого боятся эксперты.