跳到正文
AGI Hunt· AI Engineer·· 3 小时前AI 评分66

Vals AI CEO 解释模型选型成本差异,某团队月烧 150 万美元 token 后降本约 90%

Vals AI:纸上更便宜的模型实际花销更高,团队月烧 150 万美元 token 后砍掉 90%

AI 导读

Vals AI CEO Rayan Krishnan 解释,账面单价更低的模型可能因消耗更多 token 而总成本更高,且得分更低。金融任务不存在适用于所有任务的“全能冠军”,某团队在一个月消耗 150 万美元 token 后,通过内部评测将支出削减约 90%。使用企业自身历史任务构建评测,有助于指导模型选型并控制成本。

来源:AGI Hunt · agihunt.info