Reddit
RAG против Fine-Tuning для мульти-тенантного SaaS: какую архитектуру выбрать?
Автор обсуждает архитектуру многопользовательского SaaS на базе LLM, выбирая между RAG и дообучением модели. Рассматриваются два подхода: использование API-моделей с глобальной и персональной базами знаний против дообучения open-source модели на доменных данных. Ключевые вопросы — необходимость Fine-Tuning, масштабируемость и обеспечение точных ответов с цитированием источников.
score 40r/OpenAI