双RTX 3060张量切分实测结论不一
热点事件持续更新
双RTX 3060张量切分实测结论不一
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Introvertosaurus在i5-14400F、2×RTX 3060 12GB家用配置上，用llama.cpp运行Gemma 31B Q5并启用tensor split后，速度由14 t/s升至20 t/s，称PCIe 3.0 x1约100 MB/s的带宽并非该场景的吞吐瓶颈。但作者随后称，使用x1延长线实测得出了相反结论。 这组结论限于其家用硬件和Gemma 31B Q5测试。作者还说明，租用显卡并非运行在x1链路上，且平均吞吐不能反映延迟与同步开销，因此相关带宽影响仍需以对应配置实测为准。
AI 根据报道生成 · 1 小时前更新
最新进展10月27日 18:10
PCIe 3.0 x1 双卡 tensor split 推理实测：约 100 MB/s 并非瓶颈报道时间线
沿着报道，了解事件的不同侧面。
10月27日
- AGI HuntPCIe 3.0 x1 双卡 tensor split 推理实测：约 100 MB/s 并非瓶颈
Introvertosaurus 实测显示，在 i5-14400F 和 2× RTX 3060 12GB 配置上，用 llama.cpp 运行 Gemma 31B Q5 时，改用 tensor split 后速度从 14 t/s 提升至 20 t/s。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。