Reddit
PR в llama.cpp: как превзойти производительность strata decode с помощью R9700
В репозиторий llama.cpp предложен пулл-реквест, демонстрирующий методы оптимизации декодирования. Утверждается, что использование архитектуры R9700 позволяет достичь лучших показателей производительности по сравнению с текущим решением strata decode.
score 55r/LocalLLaMA