AGI Hunt· SumitGup·· 1 小时前AI 评分53
itspdfu 拆解 Siri AI 端侧首层 Skimmer:纯正则免模型调用
Siri AI 端侧首层 Skimmer 拆解:纯正则免模型,最快比 LLM 快 20 倍
AI 导读
itspdfu 拆解了 Siri AI 端侧处理首层 Skimmer,它用正则表达式匹配请求并确定性选择工具、填充参数,处理过程不运行 LLM。实测音乐 play 类工具调用低于 120ms,最快快至 6 倍,flip coin 等简单工具低于 60ms,最快快至 20 倍,并支持跨设备一致运行和离线处理;无法处理的请求才交给端侧或 PCC 模型。
来源:AGI Hunt · agihunt.info