Новость
Больше контекста — хуже результат
Статья исследует парадокс: увеличение контекста LLM часто ухудшает результат. Автор разбирает механизмы внимания, сжатия и alignment, объясняя падение точности на длинных сессиях. Материал полезен инженерам для понимания внутренней работы моделей.