Red-teaming OWASP FinBot с Promptfoo: 50 успешных атак без защиты и 0 с Tenuo

Исследователи провели тестирование на проникновение (red-teaming) агента OWASP FinBot с использованием фреймворка Promptfoo. Применение системы управления разрешениями Tenuo, основанной на задачах, позволило полностью заблокировать последствия инъекций промптов, снизив количество успешных компрометаций с 50 до 0 на моделях GPT и предотвратив несанкционированные транзакции на локальных моделях.