跳到正文
AGI Hunt· yb2698·· 2 小时前AI 评分66

LoRA共享权重训练法将1350个Agent会话评测成本降至约5美元

1350 个 agent 会话评测只花 5 美元:LoRA 共享权重训练法

AI 导读

yb2698分享了Agent RL训练中的省算力方法,让每个模型使用一个vLLM、每个harness使用一个trainer,并在共享权重上挂载LoRA adapter。评测阶段由一个vLLM同时服务9个checkpoint的adapter,完成1350个Agent会话用时不到1小时、费用约5美元;合并为完整权重则约需90美元。

来源:AGI Hunt · agihunt.info