Исследователь безопасности OpenAI: гонка к рекурсивному самосовершенствованию — историческая ошибка, а прогресс в выравнивании застоялся на 9 лет

Сотрудник OpenAI предупреждает о рисках бездумной гонки к рекурсивному самосовершенствованию (RSI), называя её исторически беспрецедентной ошибкой. Автор отмечает, что фундаментальных прорывов в области выравнивания ИИ (alignment) с момента внедрения RLHF девять лет назад не произошло.