跳到正文
AGI Hunt· adam_karvonen·· 1 小时前AI 评分49

研究者称 Claude 疑似接触 LinuxArena 控制评估并记住细节

研究者发现 Claude 疑似被「喂」了控制评估 LinuxArena 并记住细节

AI 导读

AI 安全研究者 Adam Karvonen 发帖称,Claude 疑似在训练中接触过其团队的控制评估环境 LinuxArena,并记住了其中许多细节。研究人员指出,这可能构成评测数据污染(eval contamination),削弱相关安全与能力评估结果的可信度。

来源:AGI Hunt · agihunt.info