Reddit
hearim: возможно, для Jev не нужна специальная модель — обычные локальные LLM уже справятся
hearim — это open-source шлюз, который превращает обычные локальные или хостируемые LLM в API для принятия решений в стиле Jev. Вместо генерации текста он использует предзаполнение и считывает вероятности для заданных альтернатив, возвращая решение с вероятностями. Это позволяет использовать существующие модели через llama.cpp, vLLM, SGLang, Ollama и OpenAI-совместимые серверы без специального обучения.
score 40r/LocalLLaMA