Назад к дайджесту
Новость

309 правил для устранения уязвимостей в AI-агентах

Автор делится опытом с соревнования AI-агентов, где столкнулся с угрозами безопасности: промпт-инъекции, доступ к чужим файлам, утечка переменных окружения. На основе этого создан плагин opencode-policy — детерминированный фильтр, проверяющий входящие сообщения и аргументы инструментов до передачи в модель или исполнения.