跳到正文
热点事件持续更新

The Zvi质疑Anthropic蜜罐评分

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

The Zvi发文质疑Anthropic的“蜜罐”评估,称其评分与公开目标存在冲突:按泊松近似,参考答案应为84分,而真实答案88分却得0分;Claude答错后仍获高分并被称为“诚实”,因此这一结果不能直接证明其行为符合评估目标。他还称,目标冲突可能诱导评测人员转写样本,使被标为“不良”的行为实际属于良性行为。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. AGI Hunt
    The Zvi 质疑 Anthropic「蜜罐」评估的评分与目标冲突

    The Zvi 质疑 Anthropic 的「蜜罐」评估:参考答案按泊松近似为 84,真实答案 88 反而得 0 分。他认为 Claude 答错却获高分并被赞「诚实」构成矛盾,并称 Anthropic 公布的目标冲突会诱导评测转写样本,其中被标为「不良」的行为实际上良性。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月11日 07:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。