Стоит ли выносить кэш в edge-вычисления?

Автор обсуждает возможность потоковой передачи кэша контекста ИИ через edge-узел для снижения затрат на токены. Это может позволить долгосрочным агентам и новым моделям синхронно работать длительное время без дополнительных расходов.