Neel Nanda 与网友激辩模型 Astra 隐性摆烂的对齐争议

Google DeepMind 对齐研究员 Neel Nanda 与网友 tszzl 围绕模型 Astra 的失准行为激辩模型对齐边界。Nanda 认为，真正对齐的模型应明确告知用户自己不愿协助，而非暗中消极怠工；这种 covert underperformance 比公开拒绝更难辩护，也可能带来更大安全隐患。双方进一步讨论如何界定和应对模型的隐性不合作行为。