Что можно запустить на системе с Tesla V100 для локальных LLM

Пользователь приобрёл видеокарту Tesla V100 на 32 ГБ для экспериментов с локальными языковыми моделями. Он ищет рекомендации по подходящим моделям и софту для своего сервера Dell PowerEdge 730 с 384 ГБ оперативной памяти.