跳到正文
热点事件持续更新

研究者提出Positive Alignment范式

1 篇报道1 个报道来源31 分钟前更新

先了解这件事

AI 综述

牛津大学及 Google DeepMind、OpenAI、Anthropic 的16位研究者发表《Positive Alignment: Artificial Intelligence for Human Flourishing》论文,主张安全的AI不等于好的AI,并提出Positive Alignment范式。 论文称,当前模型已拒绝超过97%的有害请求,但安全仅是必要条件,AI还应主动促进人类繁荣并保持合作。为此,研究者提出数据过滤、训练前后评估,以及覆盖大模型生命周期的设计原则。

AI 根据报道生成 · 23 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    牛津联合 Google DeepMind、OpenAI 与 Anthropic 研究者提出 Positive Alignment:97% 安全拦截率仍不够

    牛津及 Google DeepMind、OpenAI、Anthropic 的 16 位研究者发表论文,主张「安全的 AI 不等于好的 AI」,并提出「Positive Alignment」范式。当前模型已拒绝超过 97% 的有害请求,但安全只是必要条件,AI 还应主动支持人类繁荣并保持合作;论文提出数据过滤、训练前后评估及跨 LLM 生命周期设计原则。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。