跳到正文
热点事件持续更新

Nielsen重申ASI生存风险来自原始力量

2 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

Michael Nielsen重申,ASI带来的生存风险主要不是“ rogue ASI”失控,而是它赋予个人或小团体强大力量并降低危险技术门槛;Dan Robinson据此认为,即使ASI完全对齐,仍可能极度危险且颠覆现实。 Nielsen称,许多人因不相信失控风险而否定整体风险,而对齐研究可能加快灾难性能力进展,却没有消除世界的脆弱性。他援引Yoshua Bengio的估计称,灾难发生概率约为20%;这一数字属于Bengio的判断,并非已证实结果。

AI 根据报道生成 · 56 分钟前更新

事件进展

2 个进展

  1. 11月19日 12:40 · 1 篇报道
    Michael Nielsen 重申 ASI 生存风险观点
    AGI Hunt:Michael Nielsen 长文:ASI 真正的风险不是失控,而是它赋予的原始力量
  2. 11月19日 12:40 · 1 篇报道
    Dan Robinson警示对齐后的ASI仍危险
    AGI Hunt:Dan Robinson:别把「安全 AI 曼哈顿计划」全押在对齐,对齐后 ASI 仍危险

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AGI Hunt
    Michael Nielsen 长文:ASI 真正的风险不是失控,而是它赋予的原始力量

    Michael Nielsen 在长文中提出,ASI 真正的生存风险并非 rogue ASI 失控,而是其赋予个人或小团体的原始力量,以及危险技术门槛降低。他认为,许多人因不相信 rogue ASI 而否定整体风险,而对齐工作可能加速灾难性能力进展,却未解决世界的脆弱性;Bengio 曾估计灾难概率约为 20%。

  2. AGI Hunt
    Dan Robinson:别把「安全 AI 曼哈顿计划」全押在对齐,对齐后 ASI 仍危险

    Dan Robinson 在转发 Michael Nielsen 的 ASI 风险文章时提出观点:许多「安全 AI 曼哈顿计划」式构想过度依赖对齐,但即使 ASI 完全对齐,依然极度危险并具有颠覆性。他呼应 Nielsen 的判断:ASI 的根本风险来自其赋予的原始力量,而非仅仅是失控。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。