BITS研究员拆解 LLM 同分不同解：是推理还是背题？

BITS研究员 Adya 启动“reasoning-reliability”研究项目，拆解准确率相近的 LLM 在陌生问题上的表现差异，区分模型是进行推理还是依赖检索匹配。研究通过推理稳健性 benchmark、机制可解释性以及 post-training 与推理时干预，探索为 AI agent 增加可靠性层；目前已在 5 个模型和 3 类任务上取得初步结果。