Новость
Lemonade — локальный LLM-сервер при поддержке AMD. Зачем он нужен, если есть Ollama?
Ollama не видит нейронные процессоры AMD NPU на базе архитектуры XDNA, оставляя их ресурсы неиспользованными при запуске локальных моделей. Lemonade Server появился как альтернатива, позволяющая задействовать Ryzen AI 300 и 8040 для инференса LLM. Это решение закрывает пробел в поддержке аппаратного ускорения для AMD NPU в экосистеме локального ИИ.