跳到正文
热点事件持续更新

多轮安全评测显示分散线索削弱识别

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

一项基于9类风险场景和7400余段对话的评测显示,AI助手在安全风险逐步显露且线索分散时表现明显下降:4个模型的专家标准合规率由26%—59%降至3%—6%,Claude Opus 5总体表现最好,但仍未完全通过评测。 研究另称,Claude Sonnet 5在分散线索场景中的合规率为59%—87%。整体结果表明,模型能把分散信息关联起来并采取合规应对,并非其多轮对话安全能力已得到稳定验证。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. AGI Hunt
    多轮对话安全评测:线索分散后4个模型合规率降至3–6%

    一项评测研究显示,AI 助手在多轮对话中对逐步显露的安全风险识别能力明显下降。研究基于抑郁、精神病、家暴等9个场景和7400+段对话;当线索分散后,4个模型的专家标准合规率由26–59%降至3–6%,Claude Sonnet 5达59–87%,Claude Opus 5表现最好但仍有失败。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。