跳到正文
AGI Hunt· Aaroth·· 3 小时前AI 评分21

AI 安全研究探讨如何将监督权安全委托给未对齐 AI 智能体

新研究探讨如何安全地把监督权委托给未对齐的 agent

AI 导读

Aaroth 分享了一项关于如何安全地把监督任务委托给未对齐 AI 智能体的研究,核心场景是 agent 本身未对齐。研究聚焦 AI 安全与对齐方向,讨论将监督权委托给这类 agent 时需要解决的安全问题。

来源:AGI Hunt · agihunt.info