跳到正文
The Decoder· Matthias Bastian·· 16 天前AI 评分71

Anthropic 推出 Message Threads 公测:仅传输增量历史,长上下文首 token 延迟降低 35%

Anthropic's Message Threads cut time to first token by 35 percent for long conversations

AI 导读

Anthropic 在 Claude 平台公测推出 Message Threads 功能,改用仅传输增量消息机制,使 50 万至 100 万 token 请求的首 token 延迟降低约 35%。

来源:The Decoder · the-decoder.com