Длинный контекст в open-source моделях 2026: механизмы внимания и практические решения для агентов

Статья анализирует реальные механизмы обработки длинного контекста в современных open-source LLM, показывая, что заявленные 1 млн токенов часто реализуются через выборочное внимание или сжатие. Рассматриваются архитектурные особенности моделей GLM, DeepSeek, Qwen и Kimi, а также даются рекомендации по оптимизации обвязки для AI-агентов, чтобы избежать потери инструкций в длинных сессиях.