Назад к дайджесту
Reddit

В vLLM добавлена поддержка эндпоинта /v1/systemone

В популярный фреймворк для обслуживания LLM vLLM был включен PR, добавляющий поддержку специфического системного эндпоинта /v1/systemone. Это обновление расширяет возможности интеграции и совместимости фреймворка с различными клиентскими приложениями и API-шлюзами.

score 40r/LocalLLaMA