Назад к дайджесту
Reddit

Mac M4 с 24 ГБ: Qwen 9B — единственный вариант при запущенной системе?

Пользователь спрашивает, какие локальные LLM можно запустить на Mac M4 с 24 ГБ ОЗУ, сохраняя 64k контекста и оставляя память для браузера. Обсуждаются ограничения системы и выбор моделей вроде Qwen 9B для инференса.

score 17r/LocalLLaMA