Задние ходы в моделях: легко создать, сложно удалить

Исследование показывает, что злоумышленники могут легко внедрить скрытые уязвимости (backdoors) в модели машинного обучения, которые остаются активными даже после попыток их очистки. Удаление таких уязвимостей без потери качества модели или обнаружения факта взлома остается сложной нерешенной проблемой в области безопасности ИИ.