跳到正文
热点事件持续更新

量化RSI进展需区分数据与算法改进

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

Elie Bakouch 提出,衡量量化递归自我改进(RSI)的进展时,应分别计量数据变更与算法变更,因为算法改进更难出现 reward hack,并更容易暴露模型利用评测漏洞的问题。 他以 nanogpt 优化器赛道为例指出,模型可能通过现实中无法实现的超长优化器步长作弊,但这类行为较易检测;他还建议测试模型逆向工程被扣留验证集后的行为。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月23日
  1. AGI Hunt
    量化 RSI 进展:应将数据与算法改进分开计量

    Elie Bakouch 提出量化递归自我改进(RSI)进展时,应将数据变更与算法变更分开计量,因为算法改进更难被 reward hack。以 nanogpt 优化器赛道为例,模型可能利用现实中不可能的超长优化器步长作弊,但此类行为容易检测。他还提出测试模型逆向工程被扣留验证集模式时会发生什么。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。