AGI Hunt· TheZachMueller·· 3 小时前AI 评分29
Hugging Face TheZachMueller 质疑推理引擎 tok/sec 指标
从业者质疑推理引擎刷 tok/sec:实测任务根本跑不出这些数字
AI 导读
Hugging Face 的 TheZachMueller 质疑 tok/sec 已失去衡量意义,公开数据远超真实任务可达到的水平,X 平台的算法机制还可能助推这类炒作。定制推理引擎若追逐漂亮吞吐量数字,也会承担声誉受损风险;他呼吁展示 AgentX,并以真实 agent 任务基准取代裸吞吐量指标。
来源:AGI Hunt · agihunt.info