跳到正文
热点事件持续更新

Flide开源决策模型精确推理引擎

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

新加坡国立大学与牛津大学团队发布并开源 Flide,面向决策模型 LLM 智能体提供精确推理;评测显示,其查询速度最高为 vLLM 和 SGLang 的 9.5 倍,结果与独立前向传播完全一致。 Flide 通过 ForkAttention 在 GPU 常驻索引中定位请求依赖,并支持从 checkpoint 恢复智能体历史。其总变差距离最接近 float32 参考值,但上述性能与精度结论均来自团队公布的评测。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. AGI Hunt
    新加坡国立大学与牛津团队开源 Flide 决策模型推理引擎

    新加坡国立大学与牛津团队发布并开源 Flide,面向决策模型 AI 智能体提供精确推理。Flide 通过 ForkAttention 在 GPU 常驻索引上导航请求依赖,结果与独立前向传播完全一致,并支持从 checkpoint 恢复智能体历史。评测显示,其查询速度最高比 vLLM 和 SGLang 快 9.5 倍,总变差距离最接近 float32 参考值。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。