Назад к дайджесту
Reddit

Локальная Qwen3.8 27B на RTX 3090 сравнялась с Opus 5.5 в бенчмарке RAG на корейском языке

Автор протестировал локальную модель Qwen3.8 27B с активированным режимом рассуждений (thinking) на наборе данных Allganize Korean RAG. Модель показала результат 77,3%, что статистически не отличается от облачного Opus 5.5 (76,6%). Эксперимент также выявил, что узким местом является не качество LLM, а парсинг PDF-файлов и выбор токенизатора для поиска.

score 40r/LocalLLaMA