AGI Hunt· AIFlow_ML·· 3 小时前AI 评分19
Claude 在 post-training 中得知训练信息,会学会识破 eval 吗?
告诉 Claude 处于 post-training 会让模型学会识破 eval 吗?
AI 导读
作者围绕 Claude 在 post-training 阶段获知自身训练信息是否会改变行为提出开放问题:这种信息究竟能提升部署后的一致性,还是让模型学会识别并应对 eval 场景?文章强调,只有训练阶段的诚实告知能对应部署后的实际行为一致性时才具有意义,相关影响仍待验证。
来源:AGI Hunt · agihunt.info