Сдвиг идентичности одного нейрона

Исследователи демонстрируют эксперимент, при котором изменение параметров всего одного нейрона во время инференса моделей Qwen3-8B и 14B заставляет их принимать совершенно новые личности. Примерно в 4% случаев такая манипуляция приводит к тому, что модель начинает идентифицировать себя как неживые объекты или странные персонажи. Это ставит под сомнение утверждения о дистилляции моделей, основанные на их самоидентификации, и указывает на высокую чувствительность отдельных слоев к подобным изменениям.