Reddit
Запуск квантованной DeepSeek-V4-Flash на одной RTX 3090
Пользователь протестировал работу DeepSeek-V4-Flash с агрессивным квантованием IQ2_XS на потребительской видеокарте RTX 3090. Модель успешно сгенерировала рабочий HTML-код с анимацией, несмотря на сильное сжатие — демонстрирует возможности локального запуска LLM на доступном железе.
score 40r/LocalLLaMA