600 ток/с на одном запросе: Qwen3.6 35B A3B с Ninfer на RTX Pro 6000. Помните рекламу Comcast «безумно быстро»?

Пользователь делится опытом запуска модели Qwen3.6 35B A3B с помощью Ninfer на RTX Pro 6000, достигая скорости 600 токенов в секунду на одиночном запросе. Он использует её для задач чтения/поиска и кода, отмечая, что даже при большем расходе токенов она быстрее многих локальных моделей. Упоминает, что это не уровень Cerebras, но всё равно интересно.