Reddit
Anthropic представила «потоки сообщений» в Messages API для снижения задержки при длинных контекстах
Anthropic добавила в Messages API функцию потоков сообщений, позволяющую отправлять историю разговора один раз, а в последующих запросах передавать только новые сообщения и ID предыдущего ответа. Это нововведение предназначено для оптимизации работы длинных агентов и уже включено по умолчанию в Claude Code, где оно сокращает время до первого токена на 35% при контексте от 500к до 1М токенов.
score 55r/ClaudeAI