Назад к дайджесту
Reddit

qwen: объединение тензоров при конвертации от am17an · Pull Request #31028 · ggml-org/llama.cpp

В репозиторий llama.cpp добавлен pull-запрос от пользователя am17an, предлагающий функционал объединения тензоров при конвертации моделей. Обсуждение в комментариях затрагивает необходимость повторной конвертации файлов формата GGUF.

score 55r/LocalLLaMA