跳到正文
AGI Hunt· sudalairajkumar·· 2 小时前AI 评分39

68M 微调小模型在 BANKING77 超越 Claude Opus 5:CPU 延迟 12ms、零成本

微调 68M 小模型超越 Claude Opus 5:CPU 上 12 毫秒零成本

AI 导读

开发者 sudalairajkumar 提出,针对企业有界任务微调的小模型可在精度、速度和成本上优于 Claude Opus 5。BANKING77 测试中,68M 模型准确率达 93.7%,17M 达 92.3%;68M 模型在 CPU 上延迟仅 12ms且支持自托管,而 Claude Opus 5 单次调用延迟为 2,266ms、每千条消息约 $2.40。

来源:AGI Hunt · agihunt.info