AGI Hunt· AI Engineer·· 3 小时前AI 评分66
Vals AI CEO 解释模型选型成本差异,某团队月烧 150 万美元 token 后降本约 90%
Vals AI:纸上更便宜的模型实际花销更高,团队月烧 150 万美元 token 后砍掉 90%
AI 导读
Vals AI CEO Rayan Krishnan 解释,账面单价更低的模型可能因消耗更多 token 而总成本更高,且得分更低。金融任务不存在适用于所有任务的“全能冠军”,某团队在一个月消耗 150 万美元 token 后,通过内部评测将支出削减约 90%。使用企业自身历史任务构建评测,有助于指导模型选型并控制成本。
来源:AGI Hunt · agihunt.info