Назад к дайджесту
Reddit

Какие модели ИИ можно запустить на обычном железе: 32 ГБ ОЗУ и 16 ГБ видеопамяти

Пользователь спрашивает, какие языковые модели доступны для локального запуска на конфигурации с 32 ГБ оперативной памяти и 16 ГБ видеопамяти. Вопрос касается практического применения ИИ для программирования и работы в качестве ассистента на стандартном оборудовании, а не на профессиональных серверах.

score 40r/LocalLLaMA