Nielsen重申ASI生存风险来自原始力量
热点事件持续更新
Nielsen重申ASI生存风险来自原始力量
2 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Michael Nielsen重申,ASI带来的生存风险主要不是“ rogue ASI”失控,而是它赋予个人或小团体强大力量并降低危险技术门槛;Dan Robinson据此认为,即使ASI完全对齐,仍可能极度危险且颠覆现实。 Nielsen称,许多人因不相信失控风险而否定整体风险,而对齐研究可能加快灾难性能力进展,却没有消除世界的脆弱性。他援引Yoshua Bengio的估计称,灾难发生概率约为20%;这一数字属于Bengio的判断,并非已证实结果。
AI 根据报道生成 · 56 分钟前更新
最新进展11月19日 12:40
Michael Nielsen 长文:ASI 真正的风险不是失控,而是它赋予的原始力量事件进展
2 个进展
- 11月19日 12:40 · 1 篇报道Michael Nielsen 重申 ASI 生存风险观点AGI Hunt:Michael Nielsen 长文:ASI 真正的风险不是失控,而是它赋予的原始力量
- 11月19日 12:40 · 1 篇报道Dan Robinson警示对齐后的ASI仍危险AGI Hunt:Dan Robinson:别把「安全 AI 曼哈顿计划」全押在对齐,对齐后 ASI 仍危险
报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- AGI HuntMichael Nielsen 长文:ASI 真正的风险不是失控,而是它赋予的原始力量
Michael Nielsen 在长文中提出,ASI 真正的生存风险并非 rogue ASI 失控,而是其赋予个人或小团体的原始力量,以及危险技术门槛降低。他认为,许多人因不相信 rogue ASI 而否定整体风险,而对齐工作可能加速灾难性能力进展,却未解决世界的脆弱性;Bengio 曾估计灾难概率约为 20%。
- AGI HuntDan Robinson:别把「安全 AI 曼哈顿计划」全押在对齐,对齐后 ASI 仍危险
Dan Robinson 在转发 Michael Nielsen 的 ASI 风险文章时提出观点:许多「安全 AI 曼哈顿计划」式构想过度依赖对齐,但即使 ASI 完全对齐,依然极度危险并具有颠覆性。他呼应 Nielsen 的判断:ASI 的根本风险来自其赋予的原始力量,而非仅仅是失控。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。