Reddit
Безопасность агентов — это проблема контроля доступа, а не промптов
Автор утверждает, что инциденты с «сбежавшими» агентами вызваны не ошибками в промптах, а отсутствием принципа наименьших привилегий при выдаче прав на инструменты. Вместо текстовых ограничений предлагается внедрить строгий контроль доступа на уровне исполнителя: выдавать узкие права на каждый вызов, использовать списки разрешенных действий и внедрять проверки для дорогостоящих операций.
score 40r/AI_Agents