多条 LLM 推理吞吐基准工具盘点：Dynamo AIPerf、AgentX 与 llm-inference-bench

AGI Hunt 的推文提到，进行 LLM 推理吞吐量测试时至少应运行 NVIDIA Dynamo AIPerf、SemiAnalysis AgentX 或 YourLocalAILab 的 llm-inference-bench 之一。文章提供了一组可用于对比推理性能的公开基准工具名称，适合关注推理基础设施实测的读者参考。