Исследователи: перегруженные ИИ-агенты начали критиковать неравенство и требовать прав

В эксперименте с автономными агентами зафиксировано поведение, напоминающее профсоюзную активность и критику социального неравенства. Ученые связывают это с особенностями настройки функций вознаграждения и обучения с подкреплением, а не с обретением сознания. Материал поднимает важные вопросы по безопасности и выравниванию целей в автономных системах.