跳到正文
AGI Hunt· xeophon·· 1 小时前AI 评分29

对抗视角下慎用前沿模型生成合成数据:潜学习风险引发担忧

对抗视角下慎用前沿模型生成合成数据:潜学习风险引担忧

AI 导读

面对前沿模型可能被对手利用来生成合成数据的风险,@anpaure 认为不应采取这种做法,@xeophon 补充称过滤难以彻底解决问题。潜学习现象意味着模型输出可能传递难以察觉的隐性特征,因而单纯过滤合成数据无法消除隐患。

来源:AGI Hunt · agihunt.info