Тестируете ли вы доступ ИИ-агентов к инструментам? Большинство — нет, и последствия очевидны

Специалист по red-teaming ИИ-агентов предупреждает о критических уязвимостях: при подключении к MCP-серверам агенты наследуют их учётные данные, а модели не различают инструкции и данные. Основные проблемы — избыточные привилегии инструментов, отсутствие human-in-the-loop для деструктивных действий и непрямые инъекции через retrieved-контент. Автор предлагает чеклист для оценки безопасности ИИ-агентов в продакшене.