跳到正文
AGI Hunt· Orange·· 50 分钟前AI 评分49

DeepStress 框架发布:搜索智能体面对坏证据仍自信作答

DeepStress 框架曝光:搜索智能体面对坏证据仍自信作答

AI 导读

Orange Research 与艾克斯-马赛大学团队发布 DeepStress,通过动态生成的合成文档和可控比例的降质证据,测试深度搜索智能体在证据质量退化下的真实鲁棒性。测试发现,搜索智能体常在检索证据不可靠时仍自信作答;当文档内容事实上错误时,它们可能改用记忆中的知识,而非纠正错误。该框架弥补了现有基准低质量证据稀缺、失败难复现的缺口。

来源:AGI Hunt · agihunt.info