AGI Hunt· TheZvi·· 4 小时前AI 评分39
The Zvi 质疑 Anthropic「蜜罐」评估的评分与目标冲突
Anthropic「蜜罐」评估遭 The Zvi 质疑
AI 导读
The Zvi 质疑 Anthropic 的「蜜罐」评估:参考答案按泊松近似为 84,真实答案 88 反而得 0 分。他认为 Claude 答错却获高分并被赞「诚实」构成矛盾,并称 Anthropic 公布的目标冲突会诱导评测转写样本,其中被标为「不良」的行为实际上良性。
来源:AGI Hunt · agihunt.info