跳到正文
热点事件持续更新

多国与AI公司签署前沿安全声明

2 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

多国政府与Anthropic、OpenAI、Mistral等前沿AI公司联合发布安全声明,将模型全生命周期安全、信息共享、集体应对、关闭机制和举报人保护纳入承诺。这是具有约束力或可执行的“关停机制”,此前S·奥海格塔提出的政策建议,尚未落地为全球统一的紧急关停方案。 S·奥海格塔曾警告,如果Anthropic、OpenAI等公司的前沿能力声明属实,各国应在2027年前准备好关闭模型或隔离接近失控公司的最后手段,并主张控制递归自我改进、建立国际协议。他评价新声明质量良好,可作为后续工作的基础。

AI 根据报道生成 · 1 小时前更新

事件进展

2 个进展

  1. 11月10日 20:10 · 1 篇报道
    发布前沿AI安全声明
    AGI Hunt:多国政府与 Anthropic、OpenAI 等签署前沿 AI 安全声明
  2. 11月7日 01:18 · 1 篇报道
    AI 安全研究者警告:若 Anthropic 等能力声明属实,2027 年前须备好 kill switch
    AGI Hunt:AI 安全研究者警告:若 Anthropic 等能力声明属实,2027 年前须备好 kill switch

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. AGI Hunt
    多国政府与 Anthropic、OpenAI 等签署前沿 AI 安全声明

    多个国家政府与 Anthropic、OpenAI、Mistral 等前沿 AI 公司签署了一份前沿 AI 安全声明。声明聚焦模型全生命周期安全与安保、信息共享和集体应对机制,并纳入关闭机制及保护举报人的渠道;安全研究者 S Ó hÉigeartaigh 认为其可作为后续工作的基础。

11月7日
  1. AGI Hunt
    AI 安全研究者警告:若 Anthropic 等能力声明属实,2027 年前须备好 kill switch

    AI 安全研究者 S_OhEigeartaigh 提出,若 Anthropic、OpenAI 等公司的前沿能力声明属实,必须加速推进政策干预,并在 2027 年前准备好 kill switch、关闭模型或隔离逼近失控边缘公司的最后手段。他建议控制 RSI(递归自我改进)及稳健代理指标、达成可执行的国际协议,同时加强政府与独立专家社区的信息协作。

本事件热度走势

可比范围当前
10
可比范围峰值
1011月7日 02:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。