对齐研究者因回避技术理解受批评
热点事件持续更新
对齐研究者因回避技术理解受批评
2 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
对齐研究者 jd_pressman 批评 MIRI 时代及之后的alignments研究为避免推进 AI 能力，刻意回避思考 AI 与深度学习的运行机制，称这种自我审查会使研究者无法真正理解相关系统，并在思想传播中自我淘汰。他补充称，如今仍需解释这种做法，反而说明这一观念曾普遍到无需解释。 FioraStarlight 则以人类依靠价值对齐而非能力缺失来避免作恶回应，认为人类能避免危害并不意味着理解相关能力没有价值。双方的分歧集中在技术理解对 AI 对齐研究是否必要。
AI 根据报道生成 · 2 小时前更新
最新进展10月29日 10:47
jd_pressman 批评对齐研究者回避深度学习原理，称其为“精神上被阉割”报道时间线
沿着报道，了解事件的不同侧面。
10月29日
- AGI Huntjd_pressman 批评对齐研究者回避深度学习原理，称其为“精神上被阉割”
jd_pressman 激烈批评部分对齐研究者因刻意回避或道德洁癖式自我审查而拒绝理解深度学习的工作原理，认为这会使他们在思想传播中自我淘汰。他指出，如今仍需解释这一现象，反而说明这种观念曾普遍到无需解释。
- AGI Huntjd_pressman 批评 MIRI 时代对齐研究回避理解深度学习
jd_pressman 在与 FioraStarlight 的讨论中批评 MIRI 时代及之后的某些对齐研究为避免推进能力，刻意回避思考 AI 与深度学习的工作原理。他认为这种自我审查削弱了对齐研究本身，使研究者无法真正理解相关机制。FioraStarlight 则以人类依靠价值对齐而非能力缺失来避免作恶反驳这一观点。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。