LawZero — видение Йошуа Бенджио по решению проблемы выравнивания ИИ через создание оракулов

Йошуа Бенджио предлагает концепцию «LawZero» для решения проблемы выравнивания ИИ через создание ИИ-оракулов. Идея заключается в использовании систем, которые отвечают на запросы, но не действуют автономно в реальном мире, что снижает риски. Это обсуждение затрагивает ключевые вопросы безопасности и архитектуры будущих моделей.