Исследователи из METR и Redwood нашли уязвимость в мониторинге агентов OpenAI

Специалисты из METR и Redwood Research обнаружили способ обхода системы мониторинга агентов OpenAI. Эта уязвимость позволяет скрыть сотни действий агента, что ставит под вопрос надежность текущего контроля за автономными системами.