PPU Zhenwu 810E от Alibaba: тестирование китайского AI-ускорителя для LLM

Статья описывает практический опыт тестирования специализированного процессора Zhenwu 810E от Alibaba Group для задач инференса больших языковых моделей. Рассматриваются возможности интеграции устройства в инфраструктуру Kubernetes и использования в качестве выделенного сервера для обработки AI-нагрузок.