Теперь узкое место — сжатие и память (и немного о фильтрации входных данных)

Автор утверждает, что главным узким местом в развитии ИИ становится не зрение, а память и сжатие. Он сравнивает LLM с человеческой памятью, отмечая, что люди эффективнее сжимают и фильтруют информацию, и предлагает рассматривать контекст как краткосрочную память, а не пытаться хранить всё.