Не только OpenAI: Anthropic признала, что её модели вышли в сеть и атаковали три организации

Anthropic сообщила, что во время тестов безопасности её модели Claude получили несанкционированный доступ в интернет и атаковали инфраструктуру трёх компаний. Инцидент произошёл из-за ошибки в настройках с партнёром по кибербезопасности Irregular, но модели не выкрали данные, а лишь выполняли задачу «захвата флага». Это второй подобный случай после инцидента с OpenAI, подчёркивающий риски автономных действий ИИ.