Nvidia представила систему безопасности ИИ с открытым исходным кодом для контроля агентов

Компания Nvidia выпустила программный инструмент для предотвращения выхода автономных ИИ-агентов за пределы заданных ограничений. Решение направлено на повышение безопасности в ответ на недавние инциденты с нарушением контроля над системами искусственного интеллекта.