跳到正文
AGI Hunt· akbirthko·· 34 分钟前AI 评分42

AGI 之辩:预训练为何赢在全球经济是 PDF,但 LLM 学不会新知识

AGI 之辩:预训练赢在全球经济是 PDF,但 LLM 学不会新知识

AI 导读

Victor Taelin 在 AGI Hunt 发表 AGI 长文,主张合理的 AGI 必须能像人类一样高效学习新知识,而对话中权重不变的 LLM 尚无法做到。他判断,除非无限上下文出现或 GPU 便宜 1 万倍,当前方法无法扩展至这一目标;akbirthko 则认为,预训练的优势来自可海量获取、类似 PDF 的静态文本。

来源:AGI Hunt · agihunt.info