Назад к дайджесту
Reddit

Как выглядит ваша защита от инъекций промптов? У 47 из 50 агентских систем найдены уязвимости в одних и тех же местах

Эксперт провёл аудит 50 продакшн-агентских систем и обнаружил критические уязвимости в 47 из них. Выделено пять основных векторов атак: прямое переопределение, смена персоны, косвенная инъекция через RAG, эксплуатация инструментов и обход кодировок. Автор подчёркивает, что общие инструкции недостаточны, требуются явные правила защиты от переопределения.

score 40r/AI_Agents