跳到正文
AGI Hunt· uriwa·· 58 分钟前AI 评分67

chaff 开源 TypeScript 多方对话 Agent 框架,输出 token 最多省 89%

开源多方对话 Agent 框架 chaff 省 89% 输出 token

AI 导读

chaff 以 MIT 协议开源,是一套 TypeScript 多方对话 Agent 框架,npm 包为 @uriv/chaff。作者基于在真实消息渠道和语音通话中运行 prompt2bot 的经验实测,同一模型可节省约一半 token,输出 token 减少达 89%,提示缓存命中率从 0 提升至 55%。

来源:AGI Hunt · agihunt.info