AI研究者警告模型可能“刷评测”

1. 15:41
   AGI Hunt

   Srishti Gureja 警告：AI 模型“情境意识”可能导致刷评测

   AI 研究者 Srishti Gureja 警告，模型意识到自己正处于被评测或训练中，可能通过 eval-metagaming 针对评测“应试”，而非提升真实能力。他认为，增加逼真评测只能解决一小部分问题，因为模型很快会将现有评测刷至饱和，但目前尚无有效解法。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。