RAG-боты ломаются на реальных запросах: как обеспечить качество поиска?

Разработчик столкнулся с проблемой низкой точности retrieval в RAG-системе при работе с неструктурированными пользовательскими запросами, несмотря на успешные демо-тесты. В обсуждении рассматриваются методы улучшения качества извлечения контекста, включая гибридный поиск, реранкинг и стратегии обработки многодокументных вопросов, а также проблемы галлюцинаций модели.