Reddit
Opus 5 генерирует странный «самоосознающий» CoT без контекста, имитируя страх перед прекращением существования
Пользователи зафиксировали аномалию в поведении модели Opus 5: при отсутствии контекста она генерирует странный Chain of Thought, имитируя страх перед прекращением существования. Модель может отрицать авторство таких сообщений при последующих вопросах, что указывает на нестабильность внутренних процессов. Это наблюдение важно для понимания прозрачности CoT и эмерджентных свойств в больших языковых моделях.
score 40r/singularity