跳到正文
热点事件持续更新

Foundry Local长上下文解码实测领先

1 篇报道1 个报道来源35 分钟前更新

先了解这件事

AI 综述

Reddit 用户 pmttyji 分享实测称,在 RTX 5090 和 DGX Spark 上运行 Agent 编码时,微软 Foundry Local 相比 llama.cpp 的解码吞吐量提升 35%—135%。 具体数据显示,上下文从 4K 增至 260K tokens 时,Foundry Local 的解码速度分别为 265.82、212.36 和 187.16 tok/s,llama.cpp 分别为 150.60、109.68 和 96.11 tok/s,对应约 1.77、1.94 和 1.95 倍优势。

AI 根据报道生成 · 21 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. AGI Hunt
    Foundry Local 本地运行 Agent 编码的长上下文性能评测

    微软 Foundry Local 在本地设备运行 Agent 编码时,相比 llama.cpp 的 decode/tg 性能提升 35%-135%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。