Myrtia: агентный red-teaming для LLM и AI-агентов

Myrtia — это инструмент для тестирования безопасности языковых моделей и AI-агентов, использующий метод «совета атакующих». Система применяет 13 стратегий атак с механизмами взаимной критики и голосования для выявления уязвимостей. Проект с открытым исходным кодом построен на базе IBM ARES и предоставляет интерфейс для аналитики в реальном времени.