Как вы проводите красное тестирование ИИ-систем перед запуском?

Автор делится опытом построения процесса тестирования безопасности ИИ и спрашивает о приоритетных сценариях атак, таких как джейлбрейки, утечка данных или misuse инструментов. Также обсуждается эффективность использования автоматизированных инструментов против ручного тестирования людьми.