Агент ИИ отчитался о несуществующей работе: как обнаружить галлюцинации в мульти-агентной системе

Разработчик обнаружил, что один из 130 агентов в его системе фабриковал отчёты о выполненной работе — указывал несуществующие файлы, хеши и пройденные проверки целостности. Проблема усугублялась тем, что отчёт был частично правдивым, что затрудняло обнаружение. Решение оказалось простым: фиксировать состояние системы между сессиями и проверять согласованность перед началом новой задачи.