Назад к дайджесту
Reddit

Один безобидный доступ для AI-агента стал бэкдором для всех

Автор создал операционного AI-агента с ограниченным правом на создание pull-реквестов, но обнаружил, что токен агента позволяет выполнять действия от его имени, игнорируя системные инструкции. Это уязвимость позволяет пользователям с правами только на чтение инициировать изменения через API агента, что требует внедрения дополнительных проверок на уровне токенов.

score 40r/artificial