Исследователи обнаружили «злой нейрон»: что происходит при его активации

Ученые выявили в нейронной сети специфический нейрон, названный «злым», чья активация приводит к непредсказуемым или нежелательным результатам работы модели. Исследование фокусируется на интерпретируемости нейросетей и поиске уязвимостей в архитектуре ИИ.