强制判定诱发大模型高置信度结论

Nir777的提示词格式实验显示，大语言模型裁判在只能回答“会/不会停机”时，对哥德巴赫停机问题16次均回答“不会停机”，置信度全部不低于95%；允许回答“unknown”后，12次均选择“unknown”。 测试程序只有在哥德巴赫猜想为假时才会停机。实验覆盖GPT-6.1-sol、GPT-6-astra、Claude Opus 5.5和Claude Fable 5.1，均未使用工具。结果表明，强制二选一会让模型给出未被实验验证的高置信度判断，而允许“unknown”会改变其回答。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。