AGI Hunt· _reachsumit·· 4 小时前AI 评分33
新论文提出元认知可靠性监督:教 LLM 仅在必要时检索
新论文:用元认知可靠性奖励教会 LLM 只在必要时才检索
AI 导读
一篇 arXiv 论文提出“元认知可靠性监督”框架,训练 LLM agent 判断何时需要检索、何时可直接继续推理。该框架以“当前状态可靠性”和“检索动作分”组成过程奖励,并接入 GRPO 类强化学习,使模型偏向在确有必要且检索结果有贡献时使用外部信息。
来源:AGI Hunt · agihunt.info