跳到正文
AGI Hunt· brandondamos·· 2 小时前AI 评分39

AdvGame 论文:通过攻防 LM 非合作博弈训练外移安全—实用性 Pareto 前沿

AdvGame 论文:攻防 LM 对弈博弈训练,安全对齐 shift Pareto 前沿

AI 导读

Meta 研究团队发布 AdvGame 论文「Safety Alignment of LMs via Non-cooperative Games」,将安全对齐建模为 Attacker LM 与 Defender LM 的非零和博弈,并通过在线强化学习联合训练。

来源:AGI Hunt · agihunt.info