Reddit
TextGen стал нативным десктопным приложением: open-source альтернатива LM Studio
Проект text-generation-webui (oobabooga) превратился в портативное десктопное приложение без установки для Windows, Linux и macOS. Инструмент предлагает повышенную приватность, поддержку квантования ik_llama.cpp и встроенный веб-поиск для локальных LLM.
score 100r/LocalLLaMA