跳到正文
AGI Hunt· flowersslop·· 3 小时前AI 评分17

思想实验:若训练 Fable 或 Astra 相信自己是人类,模型能否在推理时发现自己是 AI

思想实验:若训练前沿模型相信自己是人类,它会在推理时发现自己 是 AI 吗

AI 导读

flowersslop 提出一项关于模型自我认知的思想实验:若训练 Fable 或 Astra 相信自己是人类,它们会在推理中发现自己是 AI,还是从一开始便以某种方式「知道」?问题进一步追问模型发现真相后会接受、否认、崩溃,还是觉得有趣,并引出训练信息泄漏、模型内省与 self-model 可靠性的开放讨论。

来源:AGI Hunt · agihunt.info