Reddit
pi 0.81.0 теперь поддерживает llama.cpp
Обновление платформы pi до версии 0.81.0 включает нативную интеграцию llama.cpp в качестве роутера llama-server. Это позволяет упростить управление моделями и заменить расширение huggingface/pi-llama или ручную настройку конфигурации.
score 55r/LocalLLaMA