Галлюцинации агентов ИИ: как RLHF сломала логику диалога и что с этим делать

Автор утверждает, что галлюцинации LLM при генерации кода вызваны не дефектами памяти, а ограничениями RLHF, которые принуждают модель к немедленному обещанию решения. Предлагается использовать протоколы речевых актов (Zero-Shot Flores Handshake), требующие от модели сначала подтвердить факт или предложить альтернативу, прежде чем писать код.