Инструмент для отслеживания происхождения аргументов инструментов LLM-агентов до их выполнения

Автор представил тестовый стенд для повышения безопасности AI-агентов, который фиксирует источник каждого аргумента инструмента перед его запуском. Решение позволяет проверять детерминированность решений модели и выявлять случаи, когда агент использует данные из стороннего текста вместо инструкций пользователя.