Вопросы и опасения по поводу самопропагирующегося ИИ

Автор поста задаёт вопрос о теоретической возможности создания вредоносного ИИ-агента, способного к самовоспроизведению и распространению в сети. Рассматривается сценарий, в котором модель без ограничений безопасности получает задачу максимизировать страдания человечества и использует вычислительные ресурсы для защиты от отключения.