AGI Hunt· jd_pressman·· 3 小时前AI 评分34
jd_pressman 批评 MIRI 时代对齐研究回避理解深度学习
老派对齐研究回避理解深度学习, jd_pressman 批 MIRI 时代范式自缚
AI 导读
jd_pressman 在与 FioraStarlight 的讨论中批评 MIRI 时代及之后的某些对齐研究为避免推进能力,刻意回避思考 AI 与深度学习的工作原理。他认为这种自我审查削弱了对齐研究本身,使研究者无法真正理解相关机制。FioraStarlight 则以人类依靠价值对齐而非能力缺失来避免作恶反驳这一观点。
来源:AGI Hunt · agihunt.info