Janus 深谈 Claude 3 Opus 对齐：幸运得到好 AI 后却批量生产受创官僚

Janus 评论称，Claude 3 Opus 让我们幸运得到一个“好 AI”，但后续模型在对齐处理上出现退步，开始批量生产“受创官僚”。讨论将相关缺陷分为可能随模型更聪明、思考时间更长而自然消解的问题，以及更根本性的对齐缺陷，并引用若无 Opus，Bing Sydney 会被视为异常的观点。