跳到正文
AIHOT·· 22 小时前精选AI 评分81

Claude Platform 推出 message threads 公测,降低长会话智能体延迟

AI 导读

Claude Platform 推出 message threads 公测,智能体每轮仅需发送新增消息和上一轮响应 ID,减少重复传输完整会话历史。开启后,500k 到 1M tokens 请求的首 token 延迟中位数下降约 35%,但 token 用量保持不变。

推荐理由

message threads 通过仅传输增量消息降低长会话智能体延迟,并披露了适用场景与部署方式。

来源:AIHOT · claude.com