AGI Hunt· oss-jiiim·· 49 分钟前AI 评分46
Apple Silicon 本地推理引擎 Splash 1.7.1 发布:ANE prefill 快 23%,共享系统提示新会话提速近 3 倍
Apple Silicon 本地推理引擎 Splash 1.7.1:ANE prefill 快 23%,共享系统提示新会话提速近 3 倍
AI 导读
开源本地推理引擎 Splash 发布 1.7.1,配套菜单栏工具 LLMenuBar 0.0.4 同步支持新特性。M6 上冷启动 2K/8K 提示的 TTFT 降低约 23%,共享系统提示与工具的新会话提速 2.5-2.9 倍。
来源:AGI Hunt · agihunt.info