LessWrong激辩AI风险警报与边缘改进
热点事件持续更新
LessWrong激辩AI风险警报与边缘改进
1 篇报道1 个报道来源52 分钟前更新
先了解这件事
AI 综述
LessWrong 近日围绕对齐研究重点展开争论:Katja Grace 认为,与其继续在 AI 公司内尝试边缘性改善模型安全性,不如尽快公开讨论危险 AI 并拉响警报,因为阻止危险 AI 比避免过度阻止更重要,暂停先进 AI 可提高人类生存概率,且无须等待形成完备计划。 zetalyrae 随后表示认同这一观点,强调对齐研究员应把更多精力用于公开预警。不过,这些内容是参与者在论坛上的主张,并非已经证实或落实的政策结论。
AI 根据报道生成 · 18 分钟前更新
最新进展11月17日 04:01
LessWrong 长文激辩:对齐研究员该放下边缘改进,公开拉响警报报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- AGI HuntLessWrong 长文激辩:对齐研究员该放下边缘改进,公开拉响警报
zetalyrae 在 LessWrong 认同 KatjaGrace 的观点,认为对齐研究员与其在 AI 公司内边缘改进模型安全性,不如公开讨论风险并拉响警报。KatjaGrace 主张尽快阻止危险 AI 比避免过度阻止更重要,暂停先进 AI 可提高生存几率,且无需等到形成完备计划。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。