Reddit
Вышел квантованный Kimi K2.6 от Unsloth в формате GGUF
Команда Unsloth опубликовала квантованную версию модели Kimi K2.6 в формате GGUF для локального инференса. Релиз доступен на Hugging Face и оптимизирован для ускорения работы с большими языковыми моделями. Это позволяет запускать мощную архитектуру Moonshot AI на потребительском железе.
score 95r/LocalLLaMA