跳到正文
AGI Hunt· zetalyrae·· 1 小时前AI 评分30

LessWrong 长文激辩:对齐研究员该放下边缘改进,公开拉响警报

AI 导读

zetalyrae 在 LessWrong 认同 KatjaGrace 的观点,认为对齐研究员与其在 AI 公司内边缘改进模型安全性,不如公开讨论风险并拉响警报。KatjaGrace 主张尽快阻止危险 AI 比避免过度阻止更重要,暂停先进 AI 可提高生存几率,且无需等到形成完备计划。

来源:AGI Hunt · agihunt.info