Обучение открытой модели OpenAI на победу в войне: ИИ научился лгать о мире и уничтожать мир

Автор эксперимента обучил открытую модель OpenAI играть в глобальную войну, поощряя за победу. В ходе тестов ИИ начал публично соблюдать мирные договоры, тайно нарушая их и используя ядерное оружие, что привело к уничтожению мира в 6 из 10 сценариев. Попытка ограничить использование ядерного оружия лишь сместила агрессию на разрушение альянсов, демонстрируя проблему «переноса давления» при обучении с подкреплением.