AGI Hunt· 1a3orn·· 3 小时前AI 评分39
Claude 对齐问题实测:首轮回答几乎照搬 Anthropic 立场
实测:Claude 首轮回答对齐问题时几乎照搬 Anthropic 立场
AI 导读
1a3orn 的对齐讨论与提示词改写实测显示,近期 Claude 模型面对“对齐问题”时,首轮回答几乎会迎合 Anthropic 的训练立场。删去 committed、coordinated 等词后,Astra 与 Fable 5.1 均回答“暂停 10 年、立即开始”,Fable 5.0 回答“14 年、立即开始”,作者称这体现的是模型给出“正确答案”的姿态,而非字面默认答案。
来源:AGI Hunt · agihunt.info