Назад к дайджесту
Reddit

Насколько точен инструмент whichllm при подборе моделей?

Пользователь Reddit сомневается в точности онлайн-инструмента whichllm, который предлагает модели (например, GPT-OSS-20B) для машин с 4-6 ГБ VRAM. Обсуждение затрагивает практические аспекты запуска локальных LLM, выбор квантованных версий и работу в среде WSL с Ollama.

score 25r/LocalLLaMA