Разблокировка ReBAR и P2P для RTX 3080 20GB ускоряет обработку промптов на 70%

Энтузиасты добились разблокировки функций ReBAR и P2P для видеокарт RTX 3080 20GB, что критически важно для работы в режиме тензорного параллелизма. Тестирование во фреймворке vLLM показало увеличение скорости обработки входных последовательностей (prefill) более чем на 100% по сравнению со стандартной конфигурацией. Это решение позволяет значительно ускорить инференс локальных LLM при использовании нескольких GPU.