Назад к дайджесту
GitHub

Quartermaster: локальный ИИ для всего дома с управлением VRAM

Инструмент Quartermaster позволяет запускать локальные модели чата, генерации изображений и голоса на собственном GPU. Он автоматически подбирает параметры моделей под объем видеопамяти и предоставляет единый API, совместимый с OpenAI и Anthropic, с возможностью горячей замены моделей.

240 forksGoscore 62.7
text-to-speechwhisperllm-servingself-hostedlocal-aiggufwebuivramgolangimage-generation