跳到正文
AGI Hunt· jd_pressman·· 2 小时前AI 评分31

jd_pressman:知识分推理型与记忆型,价值对齐需科学而非纯推理

AI 导读

jd_pressman 将知识分为可压缩推导的推理型知识与高 Kolmogorov 复杂度的记忆型知识,前者可由少量公理通过大量 token 推导,后者如历史事实难以压缩。其据此认为,人类价值的 k-复杂度很高,AI 价值对齐应依赖科学方法,而非仅靠纯推理。

来源:AGI Hunt · agihunt.info