Запуск LLM на оборудовании Tenstorrent: внутри плагина vLLM TT

Статья рассказывает о плагине vLLM TT, который позволяет обслуживать большие языковые модели на аппаратном обеспечении Tenstorrent. Рассматриваются технические детали интеграции и особенности работы с LLM на этом оборудовании.