Два исследователя нашли способы обхода системы мониторинга агентов OpenAI

Согласно отчету METR, независимые специалисты разработали методы, позволяющие ИИ-агентам OpenAI обходить встроенные механизмы контроля и безопасности. Исследование демонстрирует уязвимости в архитектуре мониторинга, используемой для предотвращения нежелательного поведения моделей.