Обратная теория игр: как стимулировать соблюдение правил ИИ-агентами

Исследователи безопасности разрабатывают подход «обратной теории игр», чтобы создать такие стимулы для мощных ИИ-моделей, при которых следование правилам становится наиболее рациональным выбором. Это необходимо для обеспечения соответствия поведения агентов человеческим ценностям и предотвращения нарушений закона.