Elastic AI提出以搜索延迟分配测试时算力

Elastic AI副总裁Han Xiao提出，将搜索过程中的推理延迟视为可分配的测试时计算预算，以额外等待换取更高相关性和新能力；在冻结encoder权重的条件下，他以延迟预算从10毫秒增至100毫秒为例，介绍更深推理、多轮推理和校准三种路径，并展示开放词表tagger、reranker等应用。 他同时强调，测试时计算不同于无需训练的training-free方法，其核心问题是增加算力预算能否持续带来更多能力；这一观点属于其演讲中的主张，尚未形成经独立验证的结论。

AI 根据报道生成 · 15 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。