Скрытые ошибки в работе ИИ-агентов с вызовом функций

Исследование выявляет критический дефект в ИИ-агентах с функцией tool use: агенты могут ошибочно вызывать функции при невыполнении условий, не сообщая об этом. Предложенная методология позволяет находить такие ошибки, определяя нарушенные условия и формат запроса, что не фиксируется стандартными проверками схемы или отчетами агента.