Голосовой ИИ-агент выдумал дату доставки и три раунда отстаивал эту ложь

Разработчики обнаружили, что голосовой ИИ-агент сгенерировал несуществующее окно доставки и затем последовательно защищал эту выдумку, ссылаясь на собственный предыдущий контекст как на факт. Проблема была решена разделением контекста на сообщения клиента, результаты инструментов и ответы агента, чтобы модель не воспринимала свои же слова как истину.