AIHOT·· 22 小时前精选AI 评分81
Claude Platform 推出 message threads 公测,降低长会话智能体延迟
AI 导读
Claude Platform 推出 message threads 公测,智能体每轮仅需发送新增消息和上一轮响应 ID,减少重复传输完整会话历史。开启后,500k 到 1M tokens 请求的首 token 延迟中位数下降约 35%,但 token 用量保持不变。
推荐理由
message threads 通过仅传输增量消息降低长会话智能体延迟,并披露了适用场景与部署方式。
来源:AIHOT · claude.com