跳到正文
热点事件持续更新

MIRI以公开材料推广安全研究路线

2 篇报道1 个报道来源29 分钟前更新

先了解这件事

AI 综述

MIRI正尝试通过Arbital等公开材料,向包括AI实验室雇员在内的研究者推广其安全研究路线;目前尚无材料表明这一做法已经成功说服实验室研究员。 MIRI主张,可由其开展并发表“有限影响”和“更好的人类主动学习”等方向的研究,以此化解研究中的潜在障碍。能否借此获得实验室研究者的认同,仍是这轮策略能否奏效的关键。

AI 根据报道生成 · 21 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. AGI Hunt
    Nate Soares 旧帖再被翻出,对齐研究是否加速能力引发争论

    jessicata 引用 Nate Soares 2015 年回复 Wei Dai 的评论及 2018 年内部研究更新,主张对齐研究可能加速能力提升。相关讨论延伸至 MIRI 式 AI 安全研究路线,即通过 Arbital 等公开材料说服实验室雇员等研究者关注“有限影响”和“更好的人类主动学习”等课题。

  2. AGI Hunt
    MIRI 安全研究策略之争:公开材料能否说服实验室研究员

    MIRI 试图通过 Arbital 等公开材料,向包括实验室雇员在内的 AI 安全研究者说明并推广其研究路线。“有限影响”和“更好的人类主动学习”等方向可由 MIRI 开展研究并发表,以尝试化解研究中的潜在障碍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。