AI安全研究视野之争：Claude研究与超智能对齐

AI安全研究者JacquesThibs借用宫崎骏批评年轻动画创作者的类比，认为年轻研究者若只研究Claude这类大语言模型，容易陷入聚焦“scheming evals”（对模型谋划行为的评估）的局部最优。 他将这种视野与上一代研究者的议题相比，称后者还涉猎Vingean reflection（辛格反思）、本体论危机、AGI Ruin（人工智能失控）等方向，尝试处理超智能系统带来的对齐问题。该报道呈现的是JacquesThibs对研究路线的批评与主张，而非已经证明Claude研究必然导致安全研究落后。

AI 根据报道生成 · 15 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。