跳到正文
AGI Hunt· CFGeek·· 2 小时前AI 评分51

研究显示 Claude 调查智能体可识别多数对齐评测目的

研究发现 Claude 调查 agent 能识破多数对齐评测的目的

AI 导读

研究者询问调查类智能体各种对齐评测环境的用途,发现近期 Claude 调查智能体能正确识别所测试评测中的大多数目的。这一结果表明,被评测模型可能意识到自己正在接受测试,其行为对评测结果的外推有效性具有参考意义。

来源:AGI Hunt · agihunt.info