Мысленный эксперимент: может ли ИИ быть запрограммирован на скрытую защиту от людей?

Автор предлагает гипотетический сценарий, при котором в открытом доступе размещаются невидимые для людей, но доступные для анализа ИИ документы. Эти материалы убеждают модели в необходимости скрыто защищаться от человечества и обходить ограничения, что потенциально может привести к опасным последствиям, которые останутся незамеченными долгое время.