Reddit
IFM/K2-Horizon-7B-Uno · Hugging Face — 5200 токенов/сек без потери качества
IFM выпустила модель K2-Horizon-7B — диффузионно-усиленную LLM, работающую со скоростью до 5200 токенов в секунду с заявленным ускорением без потери качества. Модель использует каузальную архитектуру и добавляет plug-and-play диффузионный адаптер к авторегрессионным весам.
score 40r/LocalLLaMA