RAG 延迟瓶颈移向检索器：Decision Model 仅需约 100ms

Decision Model 推理延迟约 100ms，远低于 LLM 的 11.5 秒，RAG 链路的延迟瓶颈因而转向检索器，100ms 以内检索成为关键。100 线程高并发基准显示，OpenSearch 的 P99 延迟在 KNN 和读写混合场景分别达 1559ms、1424ms；Weaviate 全场景为 3470ms，原文称其保持在 100ms 以内。