Существует ли аналог NInfer для видеокарт с 16 ГБ памяти?

Пользователь интересуется, есть ли инструмент, аналогичный NInfer, но для видеокарт с 16 ГБ (например, RTX 5060 Ti), чтобы запускать квантованную модель Qwen 3.8 Q3 на высокой скорости. NInfer — это, судя по всему, оптимизированный инференс-инструмент для мощных GPU, и автор хочет получить подобную производительность на менее дорогой карте.