Nemotron 3.5 Bolt: обзор гибридной архитектуры и эффективности для небольших кластеров

Модель Nemotron 3.5 Bolt использует гибридную архитектуру с чередованием слоев полного внимания и линейного внимания Mamba2, а также 2-битной квантованной декодированием. Это обеспечивает экстремально низкое потребление памяти для KV-кэша, что делает её оптимальной для развертывания на ограниченном оборудовании, например, на 4 GPU с 128 ГБ общей памяти. Модель демонстрирует высокую устойчивость к галлюцинациям и сопоставима по интеллекту с Qwen3 27B.