跳到正文
AGI Hunt· gerardsans·· 2 小时前AI 评分41

gerardsans 解释插值与模型幻觉:采样落入稀疏潜空间会发生什么

插值与幻觉:当采样落入稀疏潜空间会发生什么

AI 导读

gerardsans 提出一种 AI 幻觉解释框架,认为混搭 embedding 得到的插值结果会导航至稀疏或分布外潜空间,从而产生六指的手等异常图像。他进一步主张,前沿 AI 的输出基于训练数据样本采样与组合,能够形成已有数据的新组合,但无法凭空创造训练分布之外的新事物。

来源:AGI Hunt · agihunt.info