跳到正文
AGI Hunt· ThatOneSnare·· 3 小时前AI 评分62

40 个是非题一次前向:System 1 决策模型路由延迟仅 159ms

AI 导读

ThatOneSnare 分享了多个 System 1 决策端点与 9B LLM 在 Agent 路由和工具门控上的基准测试结果。托管 API 将 40 个正交是非题合并为一次前向传播,延迟 159-319ms,每轮成本 $0.00003-$0.00006;本地单卡方案改用 5 个专家问题和 1 个承诺门控后耗时 27ms,测试准确率为 100%(56/56)。

来源:AGI Hunt · agihunt.info