跳到正文
热点事件持续更新

Splash 1.7.0 优化端侧推理

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

开源推理引擎 Splash 团队发布 1.7.0,重点提升 Apple Silicon 平台的解码性能,并通过扩大缓存对话容量,改善内存压力下长会话持续解码的表现。 Splash 面向本地和端侧推理,团队由 DFlash、DFlash2 研究者组成,同时提供基于领先开源模型的 API 服务。此次更新的主要变化集中在 Apple Silicon 解码加速和长会话内存管理,不涉及其他平台性能结论。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. AGI Hunt
    开源推理引擎 Splash 1.7.0 发布,Apple Silicon 解码再提速

    开源推理引擎 Splash 发布 1.7.0 版本,重点优化 Apple Silicon 解码性能,并提升缓存中的对话容量,改善内存压力下长会话持续解码能力。该项目团队来自 DFlash / DFlash2 研究者,同时是速度领先的开源模型 API 提供商。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。