Reddit
Когда ждать нового прорыва в скорости локальных плотных моделей?
Автор обсуждает текущие методы ускорения ИИ, такие как MOE и MTP, отмечая их компромиссы в стабильности. Вопрос заключается в наличии архитектурных инноваций для ускорения именно плотных моделей, помимо сокращения токенов рассуждения, особенно на фоне ожидаемого выхода qwen4-27b.
score 40r/LocalLLaMA