Назад к дайджесту
Reddit

DiffusionGemma: Генерация текста в 4 раза быстрее

Анонсирован метод DiffusionGemma, заявляющий об ускорении генерации текста в четыре раза на базе моделей семейства Gemma. Это предполагает применение диффузионных подходов к языковым моделям для повышения эффективности вывода. Детали в предоставленном фрагменте отсутствуют, но заявленная тема критически важна для оптимизации LLM.

score 40r/LocalLLaMA