跳到正文
AGI Hunt· Sauers_·· 1 小时前AI 评分51

模型上下文探测实测逐字复述未见对话

实测模型看不到上下文却逐字复述对话,暴露训练数据泄漏

AI 导读

一项上下文探测实测中,模型在声称被微调于短诗数据后,逐字复述了一段关于浮游生物误拼和日本旅行规划的对话。作者认为,隐藏上下文可能以某种形式泄漏至可见输出,也可能只是模型对训练细节的自述幻觉。

来源:AGI Hunt · agihunt.info