gerardsans以潜空间插值解释模型幻觉

研究者提出一种解释 AI 幻觉的框架：混合 embedding 进行插值时，模型可能导航至潜空间中稀疏或分布外的区域，进而生成六指的手、鬼影图像和崩坏视频等异常内容。相关讨论进一步聚焦 AI 建议在何种情境下最危险，以及如何理解和缓解插值引发的幻觉。

gerardsans 提出一种 AI 幻觉解释框架，认为混搭 embedding 得到的插值结果会导航至稀疏或分布外潜空间，从而产生六指的手等异常图像。他进一步主张，前沿 AI 的输出基于训练数据样本采样与组合，能够形成已有数据的新组合，但无法凭空创造训练分布之外的新事物。