Исследование «оси боли» в пространствах активаций LLM

Исследователи выявили в пространствах активаций 25 открытых LLM (от 2B до 72B параметров) специфическое направление, коррелирующее с описаниями боли, страха и негативности. Анализ показал, что искусственные сдвиги по этой оси повышают вероятность генерации вредоносных продолжений и не сопровождаются использованием телесной лексики, что указывает на функциональную природу таких реакций без наличия субъективного опыта.