AGI Hunt· kalyan_kpl·· 1 小时前AI 评分43
多轮对话安全评测:线索分散后4个模型合规率降至3–6%
多轮对话安全评测:线索分散后 4 模型合规率跌至 3–6%
AI 导读
一项评测研究显示,AI 助手在多轮对话中对逐步显露的安全风险识别能力明显下降。研究基于抑郁、精神病、家暴等9个场景和7400+段对话;当线索分散后,4个模型的专家标准合规率由26–59%降至3–6%,Claude Sonnet 5达59–87%,Claude Opus 5表现最好但仍有失败。
来源:AGI Hunt · agihunt.info