Reddit
llama.cpp: добавлен API /v1/systemone для моделей laya, julia-1, lev, openjev, kev
В проект llama.cpp добавлена поддержка нового API-эндпоинта /v1/systemone. Это обновление расширяет функциональность серверной части для работы с несколькими новыми моделями, доступными в формате GGUF на Hugging Face.
score 55r/LocalLLaMA