AGI Hunt· yb2698·· 2 小时前AI 评分66
LoRA共享权重训练法将1350个Agent会话评测成本降至约5美元
1350 个 agent 会话评测只花 5 美元:LoRA 共享权重训练法
AI 导读
yb2698分享了Agent RL训练中的省算力方法,让每个模型使用一个vLLM、每个harness使用一个trainer,并在共享权重上挂载LoRA adapter。评测阶段由一个vLLM同时服务9个checkpoint的adapter,完成1350个Agent会话用时不到1小时、费用约5美元;合并为完整权重则约需90美元。
来源:AGI Hunt · agihunt.info