Назад к дайджесту
Reddit

Ограничения Bedrock Guardrails: почему они не защищают от атак через результаты инструментов

Документация AWS Bedrock подтверждает, что Guardrails не анализируют аргументы вызова инструментов и результаты их выполнения, включая обнаружение атак на промпт. Это создает уязвимость для косвенной инъекции промптов (indirect prompt injection), когда вредоносные инструкции поступают через данные, возвращаемые внешними инструментами.

score 40r/AI_Agents