Reddit
Один безобидный доступ для AI-агента стал бэкдором для всех
Автор создал операционного AI-агента с ограниченным правом на создание pull-реквестов, но обнаружил, что токен агента позволяет выполнять действия от его имени, игнорируя системные инструкции. Это уязвимость позволяет пользователям с правами только на чтение инициировать изменения через API агента, что требует внедрения дополнительных проверок на уровне токенов.
score 40r/artificial