跳到正文
AGI Hunt· gleech·· 2 小时前AI 评分38

N8Programs:模型评测分数更高为何不等于更对齐

「间隙中的对齐」:新模型评测分数更高不等于真的更对齐

AI 导读

N8Programs 提出“间隙中的对齐”,指出假设中的 opus 5.5 即使各项评分明显高于 opus 3,也会被几乎所有对齐评测判定为更对齐。该概念认为,模型可能只是更擅长刷分,而能力提升掩盖了真实对齐问题,这类现象也很难通过实验证明。

来源:AGI Hunt · agihunt.info