Архитектура MemT-1.0: встраивание памяти в модель для агентов с уменьшением объема хранения в 66 раз

MemT-1.0 внедряет механизмы памяти непосредственно в вычислительный слой модели, используя Gated Deltanet-2 и слой Mixture-of-Storage, вместо традиционного кэширования KV или внешних RAG-пайплайнов. Это позволяет непрерывно интернализировать процедурный опыт в весах модели, обеспечивая ускорение инференса в 1.86 раза и сокращение хранилища в 66 раз при контексте 128k токенов без потери общих способностей LLM.