LLM 网关压测实战：p50 延迟只讲了一半，并发流式才是真瓶颈

这篇 LLM 网关压测实战指出，p50 延迟不能完整代表网关在持续并发下的真实性能，流式请求行为更值得关注。作者建议用固定延迟的 mock provider 建立直连基线，采用开环压测，并分别检查 HTTP 版本、数千并发 SSE 流、p99 首 token 时间和流完成延迟。