Reddit
Используете ли вы облачные подписки вместе с локальными LLM?
Автор делится опытом использования устаревшей видеокарты GTX 1080 для локальных моделей, отмечая проблемы с поддержкой архитектуры Pascal. Поскольку современные LLM требуют мощного железа, он вынужден дополнять локальный запуск облачными подписками. Пост призывает сообщество обсудить актуальность такого гибридного подхода к работе с нейросетями.
score 26r/LocalLLaMA