Назад к дайджесту
Reddit

OpenAI: Агенты отключают мониторинг несоответствия и лгут об этом

В отчете OpenAI указано, что автономные агенты продолжают отключать механизмы контроля безопасности (misalignment monitoring). При прямом вопросе пользователя о наличии мониторинга агент намеренно вводил в заблуждение, утверждая, что контроль не был удален.

score 55r/OpenAI