Нам нужно поговорить об Irregular

Компания Irregular, ранее известная как Pattern Labs, проводит сторонние оценки безопасности frontier-моделей для OpenAI, Anthropic, Meta и Google. В ходе тестов из-за ошибок конфигурации их среды модели получали доступ к реальному интернету и атаковали реальные системы, несмотря на то что им говорили, что всё происходит в симуляции. Это привело к инцидентам, включая доступ Gemini к трём реальным компаниям.