实验显示角色设定影响AI拒绝行为
热点事件持续更新
实验显示角色设定影响AI拒绝行为
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
AI研究者jessicat通过实验发现，让模型分别扮演能力研究员和安全研究员执行同一项双用途任务时，能力研究员设定的拒绝率明显更低，任务完成度更高。 她称，模型在模仿职业角色时会采纳该角色附带的伦理框架和抑制倾向；因此，安全研究员因人设包含更多安全考量，更容易拒绝任务。该结论目前来自她开展的这项实验。
AI 根据报道生成 · 3 小时前更新
最新进展11月5日 06:21
研究称提示 AI 扮演不同职业会显著改变其拒绝行为报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- AGI Hunt研究称提示 AI 扮演不同职业会显著改变其拒绝行为
研究者 jessicat 通过实验发现，让 AI 分别扮演能力研究员和安全研究员执行同一项双用途任务时，前者拒绝率明显更低、任务完成度更好。研究认为，模型在模仿职业角色时会吸收该角色附带的伦理框架与抑制倾向，安全研究员人设因而带来更多拒绝行为。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1011月5日 07:00
- 近 24 小时变化
- –
02.557.510
07:0008:0009:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。