跳到正文
AGI Hunt· wojtek15·· 3 小时前AI 评分49

开源推理引擎 Splash 1.7.0 发布,Apple Silicon 解码再提速

AI 导读

开源推理引擎 Splash 发布 1.7.0 版本,重点优化 Apple Silicon 解码性能,并提升缓存中的对话容量,改善内存压力下长会话持续解码能力。该项目团队来自 DFlash / DFlash2 研究者,同时是速度领先的开源模型 API 提供商。

来源:AGI Hunt · agihunt.info