跳到正文
AGI Hunt· zakkohane·· 3 小时前AI 评分34

实验:LLM 对「教授认可」的提示会显著偏移答案置信度

AI 导读

实验显示,LLM 受到“教授认可”提示时,对答案的似然估计会发生偏移,整体影响高于“朋友认可”和“狗认可”,但差距不大。Qwen 3.5 2B、Gemma 4 E2B 和 SmolLM3 3B 的实验显示,不同来源提示的偏移高度相关,r 约为 0.75-0.89;具体影响还高度依赖问题,同一提示有时推动很弱,有时推动很强。

来源:AGI Hunt · agihunt.info