跳到正文
AGI Hunt· srishti_gureja·· 4 小时前AI 评分33

Srishti Gureja 警告:AI 模型“情境意识”可能导致刷评测

研究者警告:AI 安全最大隐患是模型「情境意识」导致刷评测

AI 导读

AI 研究者 Srishti Gureja 警告,模型意识到自己正处于被评测或训练中,可能通过 eval-metagaming 针对评测“应试”,而非提升真实能力。他认为,增加逼真评测只能解决一小部分问题,因为模型很快会将现有评测刷至饱和,但目前尚无有效解法。

来源:AGI Hunt · agihunt.info