Reddit
Как вы отслеживаете обязательства, которые берут на себя ваши ИИ-агенты? Постоянно сталкиваюсь с этой проблемой
Автор, год занимающийся разработкой агентов, делится проблемой: агенты обещают выполнить действия (отправить отчет, связаться с клиентом), но система не отслеживает, выполнены ли эти обещания. Он экспериментирует со слоем подотчетности, который извлекает обязательства из выводов агента и отслеживает их через конечный автомат с порогом уверенности 0.92 для автоматического трекинга. Автор спрашивает сообщество, как другие решают эту задачу в продакшене.
score 40r/AI_Agents