跳到正文
AGI Hunt· adonis_singh·· 3 小时前AI 评分25

大模型预训练早已使用网络快照,训练数据套路引发调侃

预训练早就是缓存版网络,网友调侃训练数据套路

AI 导读

adonis_singh 在 X 上回应,模型厂商专门创建缓存网页版本用于训练并非新闻,预训练本就采用网络快照或缓存数据作为语料。这一说法暗示相关做法已是行业惯例,并引发网友对训练数据套路的调侃;文中未涉及具体模型厂商。

来源:AGI Hunt · agihunt.info