Назад к дайджесту
Reddit

Выход Eagle-4: быстрее, чем DFlash2 и DSpark

Представлен метод Eagle-4 для ускорения генерации в языковых моделях, демонстрирующий прирост скорости до 3.59x по сравнению с базовой реализацией на модели Qwen3.8-27B. Технология превосходит существующие подходы DSpark и DFlash2, что вызывает интерес сообщества к её интеграции в популярные фреймворки llama.cpp и vLLM.

score 55r/LocalLLaMA