图解大模型采样温度与输出非确定性

cfregly 发布角色化图解，说明采样温度如何改变 LLM 的 next-token 决策：同一分布下，T=0 贪心解码会确定性地选择得分更高的 Lori，T=1 则按概率随机抽样。另一组图解指出，即使同一 prompt 的概率分布为 Lori 88%、Alice 12%，两次独立随机采样也可能产生不同输出，高概率选项同样可能落选。