塑造型对齐挑战对抗式安全评测
热点事件持续更新
塑造型对齐挑战对抗式安全评测
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
AI安全圈正在讨论jessiethinker提出的塑造型对齐思路：用连贯的自我观、世界观和道德品格培养来约束模型行为，降低欺骗与伤害风险，而非仅依靠红队持续寻找击穿模型的漏洞。 她以教育孩子类比，主张对齐应重在塑造模型的内在取向。这一观点挑战了“必须穷尽所有击穿方式”的对抗训练范式，目前体现为路线之争，尚未形成统一结论或具体行业行动。
AI 根据报道生成 · 1 小时前更新
最新进展11月14日 02:08
AI 安全圈反思「对抗训练」范式：塑造型对齐引发争论报道时间线
沿着报道，了解事件的不同侧面。
11月14日
- AGI HuntAI 安全圈反思「对抗训练」范式：塑造型对齐引发争论
jessiethinker 的观点推动 AI 安全圈反思红队对抗式安全评测范式，主张通过培养连贯的自我与世界观念、巩固道德品格来降低欺骗和伤害风险。该观点以教育孩子的类比说明「塑造型/成长型」对齐路线，挑战「必须找尽所有方式击穿一个人」的安全思路。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。