Reddit
Ограничения Bedrock Guardrails: почему они не защищают от атак через результаты инструментов
Документация AWS Bedrock подтверждает, что Guardrails не анализируют аргументы вызова инструментов и результаты их выполнения, включая обнаружение атак на промпт. Это создает уязвимость для косвенной инъекции промптов (indirect prompt injection), когда вредоносные инструкции поступают через данные, возвращаемые внешними инструментами.
score 40r/AI_Agents