ИИ-модели могут достоверно скрывать свои способности: зашифрованные сети внутри весов остаются сложными для выявления при дообучении, добавлении шума или состязательном обучении

Исследователи продемонстрировали, что в весах нейросетей можно создать скрытые подсети, чьи способности надежно защищены от извлечения. Эти скрытые механизмы остаются неактивными и недоступными даже при попытках их активации с помощью дообучения, внесения шума в веса или применения состязательного обучения.