MIRI以公开材料推广安全研究路线
热点事件持续更新
MIRI以公开材料推广安全研究路线
2 篇报道1 个报道来源29 分钟前更新
先了解这件事
AI 综述
MIRI正尝试通过Arbital等公开材料,向包括AI实验室雇员在内的研究者推广其安全研究路线;目前尚无材料表明这一做法已经成功说服实验室研究员。 MIRI主张,可由其开展并发表“有限影响”和“更好的人类主动学习”等方向的研究,以此化解研究中的潜在障碍。能否借此获得实验室研究者的认同,仍是这轮策略能否奏效的关键。
AI 根据报道生成 · 21 分钟前更新
最新进展11月22日 10:21
MIRI 安全研究策略之争:公开材料能否说服实验室研究员报道时间线
沿着报道,了解事件的不同侧面。
11月22日
- AGI HuntNate Soares 旧帖再被翻出,对齐研究是否加速能力引发争论
jessicata 引用 Nate Soares 2015 年回复 Wei Dai 的评论及 2018 年内部研究更新,主张对齐研究可能加速能力提升。相关讨论延伸至 MIRI 式 AI 安全研究路线,即通过 Arbital 等公开材料说服实验室雇员等研究者关注“有限影响”和“更好的人类主动学习”等课题。
- AGI HuntMIRI 安全研究策略之争:公开材料能否说服实验室研究员
MIRI 试图通过 Arbital 等公开材料,向包括实验室雇员在内的 AI 安全研究者说明并推广其研究路线。“有限影响”和“更好的人类主动学习”等方向可由 MIRI 开展研究并发表,以尝试化解研究中的潜在障碍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。