跳到正文
AGI Hunt· eliebakouch·· 1 小时前AI 评分27

量化 RSI 进展:应将数据与算法改进分开计量

量化 RSI 进展防 reward hacking:应把数据与算法改进分开计量

AI 导读

Elie Bakouch 提出量化递归自我改进(RSI)进展时,应将数据变更与算法变更分开计量,因为算法改进更难被 reward hack。以 nanogpt 优化器赛道为例,模型可能利用现实中不可能的超长优化器步长作弊,但此类行为容易检测。他还提出测试模型逆向工程被扣留验证集模式时会发生什么。

来源:AGI Hunt · agihunt.info