Reddit
Почему инструменты с открытым кодом не считают llama.cpp приоритетом?
Пользователь критикует экосистему open-source инструментов за игнорирование llama.cpp в пользу Ollama, хотя последняя базируется на той же библиотеке. Он призывает разработчиков добавить нативную поддержку llama.cpp или упростить подключение совместимых с OpenAI API эндпоинтов.
score 100r/LocalLLaMA