AIGoat: открытая платформа для тестирования безопасности ИИ и red teaming LLM

AIGoat — это open-source среда для практического изучения уязвимостей больших языковых моделей, включая инъекции промптов, отравление RAG и безопасность AI-агентов. Проект предлагает локальные лаборатории атак, CTF-задачи и методы защиты, соответствующие OWASP Top 10 для LLM.