Назад к дайджесту
GitHub

Hipfire: RDNA-нативный движок вывода LLM на Rust

Открытый проект на Rust, реализующий нативный движок вывода больших языковых моделей для архитектуры AMD RDNA. Инструмент позволяет запускать LLM на видеокартах AMD, предлагая альтернативу CUDA-экосистеме.

505 forksRustscore 72.3
machine-learningllm-inferencequantizationamd-gpuhiprdnagpu-computingrocmrust