Reddit
Infernix: Обновление движка для локального запуска Qwen и Ornith
Разработчик представил обновление движка Infernix, оптимизированного для работы с моделями Qwen и Ornith на GPU NVIDIA RTX 5090. Релиз включает поддержку новых форматов квантования (NVFP4, FP8, GSQ), специфичные оптимизации для Windows и Linux, а также бета-версию веб-интерфейса для управления моделями.
score 55r/LocalLLaMA