Reddit
Критические изменения формата GGUF в llama.cpp
Библиотека llama.cpp объявила о крупном обновлении, которое потребует пересоздания всех существующих GGUF-файлов. Это изменение затрагивает стандартный формат квантованных моделей, критически важный для локального запуска LLM. Пользователям придётся заново конвертировать свои модели для совместимости с новой версией.
score 55r/LocalLLaMA