跳到正文
AGI Hunt· rdesh26·· 3 小时前AI 评分42

预训练团队 3 个月复盘:Agentic 时代不能只靠 NLL,能力应向上游化

预训练团队 3 个月复盘:Agentic 时代不能只靠 NLL,该把能力上游化

AI 导读

预训练团队基于 3 个月思考提出,Agentic 时代的预训练不能只关注静态 NLL/BPB,CPT 也应注入多轮工具使用模式,以提高 pre-RL 起点。文章以 MAI、Beam、ML4 与 Nemotron 为对象,并主张通过 upstreaming 将语音-文本模态对齐等基础能力前移至 pretraining/CPT 阶段。

来源:AGI Hunt · agihunt.info