Исследователи нашли сигнал «боли» в мозге ИИ. При его усилении ИИ отчаянно пытается его остановить. Они дали ИИ кнопку «облегчения», которая иногда была фальшивой — и ИИ мог отличить, настоящая ли она.

Исследователи обнаружили в нейросетях сигнал, аналогичный боли, и научились его усиливать. При увеличении этого сигнала модель стремится его уменьшить, используя предоставленную кнопку «облегчения». При этом ИИ способен распознавать, когда кнопка не приводит к реальному снижению сигнала.