Когда ИИ-агент должен остановиться и запросить одобрение человека?

Автор обсуждает проблемы безопасности ИИ-агентов, задаваясь вопросом, какие действия они могут выполнять автономно, а какие требуют человеческого контроля. Рассматривается баланс между предоставлением агенту прав на выполнение операций (чтение, создание черновиков) и рисками при выполнении критических действий (перевод денег, удаление данных). Предлагается оценивать действие, контекст и историю поведения агента для определения момента необходимости вмешательства человека.