Elastic AI 副总裁 Han Xiao：把搜索视为测试时计算，延迟是可分配的预算

Elastic AI 副总裁 Han Xiao 提出，搜索中的推理延迟可作为测试时计算预算，用来换取相关性与新能力。他以冻结 encoder 权重下将延迟预算从 10ms 提到 100ms 为例，提出更深一遍、更多遍和校准三种路径，并展示开放词表 tagger、reranker 等应用。演讲还将测试时计算与 training-free 区分开来，探讨更多算力预算能否换取更多能力。