跳到正文
Apple Machine Learning Research·· 7 天前AI 评分43

Selection-Based Structured Reasoning:面向高效多模态搜索智能体的选择式结构化推理

Selection-Based Structured Reasoning: Toward Efficient Multimodal Search Agents

AI 导读

研究团队提出 Selection-based Structured Reasoning(SSR),将多模态搜索智能体的开放式推理生成改写为从预定义候选中择优选择。SSR 使用共享上下文 KV cache 并行计算 token 似然,在 7 个多模态搜索基准和 2B、4B 模型上显著提升效率,同时保持有竞争力的平均成功率,每轮推理延迟降低超过 90%,每道题总模型推理延迟降低 28–54%。

来源:Apple Machine Learning Research · machinelearning.apple.com