跳到正文
热点事件持续更新

研究者警告前沿模型合成数据存在潜学习风险

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

研究者反对在前沿模型可能被对手利用的场景下,用其生成合成数据。Anpaure表示应谨慎采用这种做法;Xenophon称,模型输出可能通过潜学习传递难以察觉的隐性特征,因此单纯过滤合成数据难以彻底消除风险。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. AGI Hunt
    对抗视角下慎用前沿模型生成合成数据:潜学习风险引发担忧

    面对前沿模型可能被对手利用来生成合成数据的风险,@anpaure 认为不应采取这种做法,@xeophon 补充称过滤难以彻底解决问题。潜学习现象意味着模型输出可能传递难以察觉的隐性特征,因而单纯过滤合成数据无法消除隐患。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。