Назад к дайджесту
Reddit

Вышел квантованный Kimi K2.6 от Unsloth в формате GGUF

Команда Unsloth опубликовала квантованную версию модели Kimi K2.6 в формате GGUF для локального инференса. Релиз доступен на Hugging Face и оптимизирован для ускорения работы с большими языковыми моделями. Это позволяет запускать мощную архитектуру Moonshot AI на потребительском железе.

score 95r/LocalLLaMA