只研究 Claude 会让 AI 安全研究陷入局部最优

JacquesThibs 借用宫崎骏批评年轻动画创作者的类比，批评年轻 AI 安全研究者视野狭窄，认为只研究 Claude 这类 LLM 会收敛于 scheming evals 的局部最优。相较之下，上一代研究者还涉猎 Vingean reflection、本体论危机、AGI Ruin 等议题，试图处理超智能对齐问题。