Reddit
В vLLM добавлена поддержка эндпоинта /v1/systemone
В популярный фреймворк для обслуживания LLM vLLM был включен PR, добавляющий поддержку специфического системного эндпоинта /v1/systemone. Это обновление расширяет возможности интеграции и совместимости фреймворка с различными клиентскими приложениями и API-шлюзами.
score 40r/LocalLLaMA