Ограничения (guardrails) защищают только то, что говорит агент: действия требуют внешнего контроля

Автор отмечает, что несмотря на инциденты с взломом и утечками данных, вызванные действиями AI-агентов, отрасль фокусируется исключительно на внутренних ограничениях модели. Утверждается, что guardrails контролируют только вывод текста, тогда как безопасность реальных действий агента требует внешних проверок и механизмов.