Недооцениваем ли мы безопасность AI-агентов?

Обсуждение фокусируется на смене фокуса с точности моделей на проблемы контроля над AI-агентами. Поднимаются риски неконтролируемого доступа к данным, цепочек действий и сложности аудита решений. Автор исследует, справятся ли текущие методы безопасности ИИ с угрозами в критических отраслях вроде банков и авиакомпаний.