Reddit
Локальная Qwen3.8 27B на RTX 3090 сравнялась с Opus 5.5 в бенчмарке RAG на корейском языке
Автор протестировал локальную модель Qwen3.8 27B с активированным режимом рассуждений (thinking) на наборе данных Allganize Korean RAG. Модель показала результат 77,3%, что статистически не отличается от облачного Opus 5.5 (76,6%). Эксперимент также выявил, что узким местом является не качество LLM, а парсинг PDF-файлов и выбор токенизатора для поиска.
score 40r/LocalLLaMA