跳到正文
AGI Hunt· sethlazar·· 2 小时前AI 评分35

对齐研究新论:为何模型评测总漏掉失准信号

对齐研究新论:为何我们的评测总漏掉失准信号

AI 导读

David Krueger 提出「去相关证据」视角,认为多次未能提前发现模型失准,源于不同证据系统性地共享误差。Seth Lazar 将其视为算法单一文化的危险,呼吁开展 moonshot 级项目,构建更少内部偏斜的模型用于失准监测与研究,并强调开放权重模型的必要性。

来源:AGI Hunt · agihunt.info