审计显示子代理更省、冷启动更烧钱
热点事件持续更新
审计显示子代理更省、冷启动更烧钱
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
AGI Hunt审计agy-hq工作区的68场真实会话后称,连续运行的后台子代理可利用前缀缓存,比主会话冷启动更省token:130步子代理计费39.6万未缓存输入,而207k上下文主会话两次唤醒计费41.4万。 审计者提出在主会话上下文达到160k时自动触发/compact,测试中单次唤醒成本由25.2万降至2.7万,下降89.2%;同时建议用Go将MEMORY.md索引限制在80行以内、按任务选择模型。该工作区模板与Go助手已按Apache 2.0开源。
AI 根据报道生成 · 1 小时前更新
最新进展11月12日 12:08
agy-hq 工作区审计显示子代理更省钱,冷启动更烧钱报道时间线
沿着报道,了解事件的不同侧面。
11月12日
- AGI Hunt精选agy-hq 工作区审计显示子代理更省钱,冷启动更烧钱
作者审计 agy-hq 工作区的 68 场真实会话、4,894 个模型步骤和 5.058 亿 token,发现连续运行的后台子代理通过前缀缓存降低了成本。130 步子代理仅计费 39.6 万未缓存输入,而 207k 上下文主会话两次唤醒计费 41.4 万未缓存 token。通过在 160k 上下文水位线触发 /compact,单次唤醒成本从 25.2 万降至 2.7 万,降幅 89.2%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。