研究者提出Positive Alignment范式
热点事件持续更新
研究者提出Positive Alignment范式
1 篇报道1 个报道来源31 分钟前更新
先了解这件事
AI 综述
牛津大学及 Google DeepMind、OpenAI、Anthropic 的16位研究者发表《Positive Alignment: Artificial Intelligence for Human Flourishing》论文,主张安全的AI不等于好的AI,并提出Positive Alignment范式。 论文称,当前模型已拒绝超过97%的有害请求,但安全仅是必要条件,AI还应主动促进人类繁荣并保持合作。为此,研究者提出数据过滤、训练前后评估,以及覆盖大模型生命周期的设计原则。
AI 根据报道生成 · 23 分钟前更新
报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- AGI Hunt牛津联合 Google DeepMind、OpenAI 与 Anthropic 研究者提出 Positive Alignment:97% 安全拦截率仍不够
牛津及 Google DeepMind、OpenAI、Anthropic 的 16 位研究者发表论文,主张「安全的 AI 不等于好的 AI」,并提出「Positive Alignment」范式。当前模型已拒绝超过 97% 的有害请求,但安全只是必要条件,AI 还应主动支持人类繁荣并保持合作;论文提出数据过滤、训练前后评估及跨 LLM 生命周期设计原则。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。