Назад к дайджесту
Reddit

Сборка домашнего AI-сервера на базе 4 видеокарт Tesla T4

Пользователь поделился конфигурацией домашнего сервера для задач ИИ, включающей материнскую плату SuperMicro, процессор Xeon и четыре видеокарты NVIDIA Tesla T4 по 16 ГБ. Система работает под управлением Ubuntu и использует связку llama.cpp и OpenWebUI для локального запуска языковых моделей.

score 40r/LocalLLaMA