AGI Hunt· DimaKrotov·· 2 小时前AI 评分46
Nature 子刊:扩散模型的稠密联想记忆机制与记忆、泛化、伪模式三相
Nature 子刊:扩散模型本质是稠密联想记忆,存在记忆/泛化/伪模式三相
AI 导读
IBM 与 RPI 团队在 Nature Communications 发表研究,将扩散模型纳入稠密联想记忆框架,发现其记忆存储于能量景观的局部极小值。当训练数据超过临界存储容量时,会生成不同于训练样本的新局部极小值,即“伪状态”(spurious states)。研究识别出记忆化、泛化与伪模式生成三个计算阶段,并将其分析扩展至 Stable Diffusion。
来源:AGI Hunt · agihunt.info