Чем занимаются с локальными моделями и какие инструменты используют?

Пользователь Reddit спрашивает о практическом применении локальных языковых моделей и инструментах для работы с ними, включая задачи программирования. В обсуждении фигурируют альтернативы облачным сервисам вроде Claude, опыт использования OpenWebUI и вопросы настройки под локальное железо.