Инструмент CMP170HX ускоряет генерацию в LLM на RTX 30/40 в 2 раза за счет разблокировки вычислений

Новый инструмент CMP170HX позволяет разблокировать дополнительные вычислительные ресурсы на видеокартах NVIDIA RTX 30 и 40 серий, что удваивает скорость предварительной обработки (prefill) в больших языковых моделях. Несмотря на значительный прирост производительности в задачах ИИ, использование этой утилиты сопровождается ростом цен на оборудование.