跳到正文
热点事件持续更新

LessWrong激辩AI风险警报与边缘改进

1 篇报道1 个报道来源52 分钟前更新

先了解这件事

AI 综述

LessWrong 近日围绕对齐研究重点展开争论:Katja Grace 认为,与其继续在 AI 公司内尝试边缘性改善模型安全性,不如尽快公开讨论危险 AI 并拉响警报,因为阻止危险 AI 比避免过度阻止更重要,暂停先进 AI 可提高人类生存概率,且无须等待形成完备计划。 zetalyrae 随后表示认同这一观点,强调对齐研究员应把更多精力用于公开预警。不过,这些内容是参与者在论坛上的主张,并非已经证实或落实的政策结论。

AI 根据报道生成 · 18 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    LessWrong 长文激辩:对齐研究员该放下边缘改进,公开拉响警报

    zetalyrae 在 LessWrong 认同 KatjaGrace 的观点,认为对齐研究员与其在 AI 公司内边缘改进模型安全性,不如公开讨论风险并拉响警报。KatjaGrace 主张尽快阻止危险 AI 比避免过度阻止更重要,暂停先进 AI 可提高生存几率,且无需等到形成完备计划。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。