Назад к дайджесту
Reddit

IFM/K2-Horizon-7B-Uno · Hugging Face — 5200 токенов/сек без потери качества

IFM выпустила модель K2-Horizon-7B — диффузионно-усиленную LLM, работающую со скоростью до 5200 токенов в секунду с заявленным ускорением без потери качества. Модель использует каузальную архитектуру и добавляет plug-and-play диффузионный адаптер к авторегрессионным весам.

score 40r/LocalLLaMA