跳到正文
AGI Hunt· S_OhEigeartaigh·· 4 天前AI 评分29

AI 安全研究者警告:若 Anthropic 等能力声明属实,2027 年前须备好 kill switch

AI 安全研究者:Anthropic 等失控警告若属实,2027 前须备好 kill switch

AI 导读

AI 安全研究者 S_OhEigeartaigh 提出,若 Anthropic、OpenAI 等公司的前沿能力声明属实,必须加速推进政策干预,并在 2027 年前准备好 kill switch、关闭模型或隔离逼近失控边缘公司的最后手段。他建议控制 RSI(递归自我改进)及稳健代理指标、达成可执行的国际协议,同时加强政府与独立专家社区的信息协作。

来源:AGI Hunt · agihunt.info