Nvidia разрабатывает платформу для контроля безопасности AI-агентов

Компания Nvidia анонсировала Open Agent Safety Platform — систему мониторинга, которая действует как внешний надзиратель для искусственных интеллектуальных агентов. Платформа отслеживает действия агентов и предотвращает выход за установленные границы, что становится критически важным по мере расширения доступа агентов к внешним инструментам и системам.