AGI Hunt· brandondamos·· 2 小时前AI 评分39
AdvGame 论文:通过攻防 LM 非合作博弈训练外移安全—实用性 Pareto 前沿
AdvGame 论文:攻防 LM 对弈博弈训练,安全对齐 shift Pareto 前沿
AI 导读
Meta 研究团队发布 AdvGame 论文「Safety Alignment of LMs via Non-cooperative Games」,将安全对齐建模为 Attacker LM 与 Defender LM 的非零和博弈,并通过在线强化学习联合训练。
来源:AGI Hunt · agihunt.info