跳到正文
AGI Hunt· swiss-ai·· 2 小时前AI 评分36

瑞士 AI 团队提出模板化多语言安全训练管线:英语评测会误判模型安全性

模板化多语言安全训练管线:英语评测会误判模型安全性

AI 导读

瑞士 AI 团队提出一套可扩展的模板化(templates)管线,用于批量生成多语言安全训练数据集。研究发现,仅用英语评测会系统性误判多语言模型的安全水平,文化本地化的安全训练能够跨语言提升对齐效果。模型安全对齐不能只依赖英语基准衡量。

来源:AGI Hunt · agihunt.info