AGI Hunt· nagpalchirag·· 4 小时前AI 评分36
新论文用 RL 后训练对齐 LLM,提升跨群体公平性
AI 导读
论文《Aligning Language Models towards Counterfactual Invariance》提出,RL 后训练带来的推理与指令遵循增益在不同提示类别、用户子群体及敏感属性上分布不均。团队复用开源 RM + GRPO 对齐工具链,探索让 LLM 使用人口统计数据时兼顾裁量与反事实不变公平性。
来源:AGI Hunt · agihunt.info