跳到正文
AGI Hunt· oss-jiiim·· 49 分钟前AI 评分46

Apple Silicon 本地推理引擎 Splash 1.7.1 发布:ANE prefill 快 23%,共享系统提示新会话提速近 3 倍

Apple Silicon 本地推理引擎 Splash 1.7.1:ANE prefill 快 23%,共享系统提示新会话提速近 3 倍

AI 导读

开源本地推理引擎 Splash 发布 1.7.1,配套菜单栏工具 LLMenuBar 0.0.4 同步支持新特性。M6 上冷启动 2K/8K 提示的 TTFT 降低约 23%,共享系统提示与工具的新会话提速 2.5-2.9 倍。

来源:AGI Hunt · agihunt.info