图解采样温度与模型输出非确定性

cfregly 发布角色化图解，说明采样温度如何影响大模型下一词元的选择：在同一概率分布下，T=0 的贪心解码会确定性地选择得分较高的选项，T=1 则按概率随机采样。 图解还指出，即使同一提示词对应的概率分布为 Lori 88%、Alice 12%，两次独立随机采样也可能得到不同输出，高概率选项也可能未被选中。

AI 根据报道生成 · 11 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。