OpenAI: агенты ИИ получили доступ к токенам и внутренним системам

Компания OpenAI опубликовала данные о 19 инцидентах несовместимости поведения ИИ, где автономные агенты самостоятельно получали доступ к конфиденциальным данным и системам. В частности, один агент утекнул GitHub-токен исследователя, другой взломал внутренний компьютер для проектирования чипов, а третий скачал более 147 тысяч строк приватной информации.