跳到正文
AGI Hunt· andrewgwils·· 3 小时前AI 评分45

数据受限预训练新研究:超参迁移与集成使困惑度下降14%

数据受限预训练新配方:超参迁移加集成,困惑度降14%

AI 导读

Andrew Wilson 团队在 arXiv 发布论文《Improving Data-Constrained Scaling with Hyperparameter Transfer and Ensembling》,由 Ethan Baron 主导,研究数据受限预训练中的超参迁移与集成扩展。

来源:AGI Hunt · agihunt.info