Subquadratic: прорыв в масштабировании LLM и экономия в 1000 раз

Стартап Subquadratic от экс-сотрудников DeepMind и Meta заявляет о новой архитектуре LLM с линейным масштабированием, что обещает снизить затраты в 1000 раз. Компания утверждает, что модель поддерживает контекст в 12 миллионов токенов, делая RAG устаревшим. Однако научное сообщество скептически относится к заявлению без независимой рецензии и учета аппаратных ограничений.