降温采样可部分纠正训练数据不足偏差

Fields 等人发现，生成模型在训练数据有限时，会给低概率输出留下过多概率质量；训练后降低采样温度可部分纠正这种系统性偏差，无需额外加入训练时正则化。 研究团队利用能量模型在小型自旋格子等受控系统中验证了这一效果。此前蛋白质序列生成等任务中，降低温度后生成质量改善的做法，由此获得了一种可能解释；但当高概率与低概率构型的边界过于尖锐时，降温采样仍会失效。

AI 根据报道生成 · 57 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。