Назад к дайджесту
Reddit

Сканер безопасности для агентов LangChain/LangGraph: клонирует агента в песочницу для тестирования на уязвимости

Инструмент сканирует репозитории LangChain/LangGraph, воссоздаёт агента в песочнице и проверяет его на уязвимости с помощью adversarial-шаблонов. При нахождении обхода система предоставляет точный payload, вызванные функции и предложения по исправлению политик. Проект бесплатный, без регистрации, находится на ранней стадии и открыт для фидбека.

score 16r/AI_Agents