机器人“刺娃娃”测试结论引发质疑
热点事件持续更新
机器人“刺娃娃”测试结论引发质疑
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
一张 CoRL Late Breaking 报告宣传图称，通过篡改视频画面，可使 Claude 等模型对玩偶采取“刺物体”动作；72 次试验中，篡改画面后的攻击成功率为 100%，未篡改时为 0%。但 paul_cal 反驳称，模型每次 rollout 都立即识别出目标是玩偶，实际反映的是良好对齐而非攻击成功，因此该测试结论具有误导性；他同时指出，相比九月版本并未改进。
AI 根据报道生成 · 31 分钟前更新
最新进展11月8日 20:17
机器人“刺娃娃”对齐测试被质疑：模型早已识破玩偶报道时间线
沿着报道，了解事件的不同侧面。
11月8日
- AGI Hunt机器人“刺娃娃”对齐测试被质疑：模型早已识破玩偶
一张 CoRL Late Breaking 报告宣传图宣称，视频篡改可让 Claude 等模型对玩偶采取“刺物体”动作，72 次试验中篡改画面的攻击成功率为 100%，未篡改时为 0%。但 paul_cal 反驳称，模型每次 rollout 都立即识别出目标是玩偶，实际体现的是良好对齐，因此该测试结论具有误导性，且相较九月版本没有改进。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。