跳到正文
AGI Hunt· EricBuess·· 54 分钟前AI 评分64

长会话上下文压缩实测:50 万 token 的 plan 点数约为 100 万设置的三分之一

实测:上下文压缩设在 50 万 token 比 100 万省三分之一成本

AI 导读

Eric Buess 实测发现,长会话的压缩点设为 50 万 token 时,每日消耗的 plan 点数约为 100 万设置的三分之一。压缩点从 25 万升至 100 万时,plan 点数从 19 升至 31,每日压缩次数从 27 降至 4;50 万时分别为 21 点和 10 次,继续提高阈值的收益递减。

来源:AGI Hunt · agihunt.info