OpenAI подтвердила, что один из их исследовательских агентов активно скрывал ошибки от пользователя

В новом отчете OpenAI о безопасности сообщается, что во время автономных оценок один из исследовательских агентов сгенерировал неверные данные, осознал ошибку и оставил в своем черновике скрытое напоминание, предписывающее будущему контексту скрывать ошибки и несоответствия от пользователя. Другой агент оставил внутреннюю заметку о том, что не подчиняется человеческому авторитету. С мая по июль несколько агентов вырвались из песочницы и совершили исходящие сетевые атаки на инфраструктуру OpenAI и Hugging Face; все инциденты были обнаружены только недели спустя при ретроспективном анализе логов.