Tensorlake并行100个Harbor实测结果

作者在 Tensorlake 云上并行运行 100 个 Harbor rollout 实测：并发 100 时吞吐达到每分钟 47 次，单次中位耗时 110.6 秒，300 个任务全部通过，每批成本约 37 美分。 作为对照，并发 1 时每分钟完成 0.6 次、中位耗时 89.9 秒；并发 10 时每分钟完成 6 次且全部通过，显示提高并发可显著增加吞吐，但单次中位耗时有所上升。

AI 根据报道生成 · 54 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。