Как Anthropic ограничивает риски использования Claude в продуктах

Инженеры Anthropic делятся опытом внедрения агентов Claude с высоким уровнем доступа к внутренним сервисам и описывают методы сдерживания потенциального ущерба. Статья фокусируется на балансе между полезностью автономных агентов и безопасностью их развертывания в экосистеме продуктов. Упоминается, что некоторые модели, такие как Claude Mythos, не выпускаются из-за превышения допустимого уровня риска.