Matt Shumer:按任务总成本选模型
热点事件持续更新
Matt Shumer:按任务总成本选模型
1 篇报道1 个报道来源58 分钟前更新
先了解这件事
AI 综述
Matt Shumer在Something Big撰文称,按token单价选用更便宜的模型,可能因重试和人工反馈反而增加任务总成本。其举例中,Opus一次完成,Sonnet经过三轮反馈;尽管Sonnet单token价格便宜一半,三轮总价仍为Opus的1.5倍,且尚未计入人工反馈时间。 他建议企业按任务端到端核算总token消耗、重试次数和人工时间,而不是只比较模型标价。
AI 根据报道生成 · 24 分钟前更新
最新进展11月21日 00:50
Matt Shumer:贵模型常更省钱,便宜模型重试成本反噬报道时间线
沿着报道,了解事件的不同侧面。
11月21日
- AGI HuntMatt Shumer:贵模型常更省钱,便宜模型重试成本反噬
Matt Shumer 在 Something Big 撰文指出,按 token 单价选择便宜模型可能推高任务总成本,因为更贵模型往往步骤更少、错误更少。以 Opus 一次到位、Sonnet 需三轮反馈为例,Sonnet 单 token 便宜一半,但三轮总价为 Opus 的 1.5 倍,且未计人工反馈时间。他建议按任务端到端核算总 token 消耗与人工时间,而非仅比较标价。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。