跳到正文
AGI Hunt· 量子位·· 2 小时前AI 评分57

姚顺雨清华对谈混元训练法、反刷榜理念与具身智能

姚顺雨清华对谈:混元训练法、刷榜之弊与具身智能的 GPT-3.5 时刻

AI 导读

姚顺雨在清华大学与本科同学吕凯风对谈两个多小时,分享腾讯混元大模型的训练方法、组织文化及行业判断。混元预训练采用「Scaling Ladder」,后训练回归朴素的 Policy Gradient 与 GRPO,并强调评测应先于训练数据设计。他预计具身智能可能出现「GPT-3.5 时刻」,并区分 Safety 与 Security,认为当前更紧迫的是防范 AI 被滥用。

来源:AGI Hunt · agihunt.info