跳到正文
热点事件持续更新

团队借内部评测降低模型调用成本

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Vals AI CEO Rayan Krishnan 称,模型标价更低并不代表总成本更低,若消耗更多 token、任务得分又更低,费用反而可能上升。某金融团队一个月消耗约150万美元 token 后,依据企业自身历史任务进行内部评测和选型,将支出削减约90%。 他表示,金融任务不存在适用于所有任务的“全能冠军”,企业需用自身任务测试模型,才能同时判断效果与成本。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. AGI Hunt
    Vals AI CEO 解释模型选型成本差异,某团队月烧 150 万美元 token 后降本约 90%

    Vals AI CEO Rayan Krishnan 解释,账面单价更低的模型可能因消耗更多 token 而总成本更高,且得分更低。金融任务不存在适用于所有任务的“全能冠军”,某团队在一个月消耗 150 万美元 token 后,通过内部评测将支出削减约 90%。使用企业自身历史任务构建评测,有助于指导模型选型并控制成本。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。