Что бы вы хотели, чтобы я попробовал?

Пользователь Reddit предлагает сообществу запустить эксперименты с использованием библиотеки vllm на выделенном рабочем окружении. Он готов выполнить запросы по запуску моделей, если не будет перегружен другими задачами.