跳到正文
AGI Hunt· willcb·· 37 分钟前AI 评分37

willcb:“数据策展 RL”实为 SWE 环境,Claude 正重塑代码预训练语料

「数据策展 RL」实为 SWE 环境:预训练代码语料正变成 Claude 洗过的仓库

AI 导读

willcb 在上一条推文下补充说明,“数据策展 RL”本质上就是 SWE 环境,代码预训练数据正越来越多地来自 Claude 构建、且质量更高的仓库。合成训练数据的来源与质量正被上一代模型重塑,预训练语料清洗也开始成为 Agent 工作负载。

来源:AGI Hunt · agihunt.info