SafeAgents: open-source прокси для проверки вызовов инструментов AI-агентами

SafeAgents — локальный прокси-сервер, который перехватывает и проверяет каждый вызов инструмента (tool call) перед его выполнением кодовым агентом. Он использует детерминированные детекторы и опциональную модель-судью для блокировки потенциально опасных действий, таких как обход песочницы или попытка манипуляции системой вознаграждения.