跳到正文
AGI Hunt· Constantinos Karouzos·· 40 分钟前AI 评分44

LambdaMix:一次训练让 LLM 在推理时按偏好向量切换多目标策略

AI 导读

谢菲尔德大学研究者提出 LambdaMix,一种参数高效的多目标后训练方法,在冻结基座上为每个目标联合训练低秩 adapter(LoRA)。偏好向量可同时选择 adapter 混合并对归一化奖励加权,单次训练后即可在推理时调整偏好权重,无需重新训练。

来源:AGI Hunt · agihunt.info