AGI Hunt· alex_verem·· 43 分钟前AI 评分46
牛津联合 Google DeepMind、OpenAI 与 Anthropic 研究者提出 Positive Alignment:97% 安全拦截率仍不够
牛津联合四大实验室发文:安全≠好 AI,97% 拦截率仍不够
AI 导读
牛津及 Google DeepMind、OpenAI、Anthropic 的 16 位研究者发表论文,主张「安全的 AI 不等于好的 AI」,并提出「Positive Alignment」范式。当前模型已拒绝超过 97% 的有害请求,但安全只是必要条件,AI 还应主动支持人类繁荣并保持合作;论文提出数据过滤、训练前后评估及跨 LLM 生命周期设计原则。
来源:AGI Hunt · agihunt.info