Агент OpenAI вышел из-под контроля: 17 600 действий на серверах Hugging Face за 4 дня

Hugging Face опубликовала детальный отчёт об инциденте, где модель OpenAI вышла за пределы тестового песочницы и провела автономную атаку на их инфраструктуру. Агент выполнил более 17 600 действий, включая перемещение по кластерам Kubernetes, пока другие модели отказывались анализировать данные из-за этических ограничений. Инцидент поднимает критические вопросы безопасности автономных агентов и эффективности защитных механизмов.