Foundry Local长上下文解码实测领先
热点事件持续更新
Foundry Local长上下文解码实测领先
1 篇报道1 个报道来源35 分钟前更新
先了解这件事
AI 综述
Reddit 用户 pmttyji 分享实测称,在 RTX 5090 和 DGX Spark 上运行 Agent 编码时,微软 Foundry Local 相比 llama.cpp 的解码吞吐量提升 35%—135%。 具体数据显示,上下文从 4K 增至 260K tokens 时,Foundry Local 的解码速度分别为 265.82、212.36 和 187.16 tok/s,llama.cpp 分别为 150.60、109.68 和 96.11 tok/s,对应约 1.77、1.94 和 1.95 倍优势。
AI 根据报道生成 · 21 分钟前更新
最新进展11月6日 13:14
Foundry Local 本地运行 Agent 编码的长上下文性能评测报道时间线
沿着报道,了解事件的不同侧面。
11月6日
- AGI HuntFoundry Local 本地运行 Agent 编码的长上下文性能评测
微软 Foundry Local 在本地设备运行 Agent 编码时,相比 llama.cpp 的 decode/tg 性能提升 35%-135%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。