Как проверить, действительно ли защитный механизм вашего ИИ-агента блокирует угрозы

В статье объясняется, что детектирование промпт-инъекций не гарантирует блокировку вредоносного контента, если функция блокировки не активирована явно. На примере open-source инструмента StackOne Defender автор рекомендует проверять полный путь обработки данных: от вердикта системы безопасности до фактического запрета на использование текста агентом. Подчеркивается важность тестирования сценариев, когда LLM-ревьюер может быть обманут или вернуть некорректный ответ.