跳到正文
AGI Hunt· jefrankle·· 1 小时前AI 评分43

SFA 通过模型平均实现持续学习,训练时间最多减少 36%

同上

AI 导读

《Forget About It》提出 SFA,通过序列微调中的模型平均,在持续学习上超越 replay 等复杂方法。SFA 无需 replay、无需辅助损失,训练时间最多减少 36%,相关细节见 arXiv:2501.05559。

来源:AGI Hunt · agihunt.info