Назад к дайджесту
Reddit

Speedy демонстрирует впечатляющую производительность с Qwen3.8 FN

Пользователь провел сравнительное тестирование инструментов Speedy и Avalon для работы с моделью Qwen3.8 FN на мощном железе. Результаты показывают, что Speedy значительно превосходит конкурента по скорости префиллинга и генерации токенов, сокращая общее время обмена данными на 26-72% в зависимости от длины контекста.

score 40r/LocalLLaMA