Ninfer разгоняет Qwen 3.6 35B до 700 токенов в секунду на RTX 5090

Пользователь запустил оптимизированный инференс-движок Ninfer на Windows, достигнув 550–720 токенов в секунду с моделью Qwen 3.6 35B. Решение заточено под видеокарту RTX 5090 и поддерживает контекст 250k без необходимости параллельного батчинга. Производительность сравнивается с уровнями Cerebras для потребительского железа.