AGI Hunt· 机器之心·· 1 小时前AI 评分53
OptiMer 获 EMNLP 2026 杰出论文奖,数据配比优化提速 1535 倍
OptiMer 获 EMNLP 杰出论文:预训练数据配比提速 15~35 倍
AI 导读
日本 NICT 宋海越团队的 OptiMer 获 EMNLP 2026 杰出论文奖,17,661 篇投稿中仅 22 篇入选。该方法先在各类数据上分别持续预训练,提取模型与基座的参数差作为分布向量,再用贝叶斯优化搜索合并比例,100 次配比尝试仅需 8.5 小时,传统方法训练一个配比需 129.3 小时。
来源:AGI Hunt · agihunt.info