Назад к дайджесту
Reddit

Infernix: Обновление движка для локального запуска Qwen и Ornith

Разработчик представил обновление движка Infernix, оптимизированного для работы с моделями Qwen и Ornith на GPU NVIDIA RTX 5090. Релиз включает поддержку новых форматов квантования (NVFP4, FP8, GSQ), специфичные оптимизации для Windows и Linux, а также бета-версию веб-интерфейса для управления моделями.

score 55r/LocalLLaMA