Reddit
Лучший выбор железа для локальных моделей
Пользователь ищет рекомендации по выбору устройства для локального инференса языковых моделей, рассматривая MacBook Pro или Mac Mini с 32 ГБ оперативной памяти. У автора уже есть доступ к мощным серверным GPU (B200, A100, L40) в университете для задач обучения, поэтому фокус исключительно на портативных решениях для вывода моделей.
score 40r/MachineLearning