Reddit
Поиск быстрого и «нецензурного» LLM для генерации промптов на RTX 5070 Ti
Пользователь ищет локальную языковую модель объемом 12–14 миллиардов параметров, которая помещается в 16 ГБ видеопамяти RTX 5070 Ti при квантовании Q4/Q5. Ключевые требования: высокая скорость генерации (более 50 токенов в секунду), отсутствие фильтров безопасности (uncensored) и совместимость с Ollama для генерации сложных текстовых промптов.
score 40r/StableDiffusion