Почему ваша LLM тупеет на больших документах и как её починить

Большой контекст не гарантирует качественных ответов: при работе с объёмными документами модель теряет важные детали и хуже находит нужные факты. В статье разбираются ограничения Full-Context и базового RAG, а также предлагается подход Semantic Gatekeeper, который повышает точность за счёт подготовки релевантного контекста перед передачей его основной модели.