跳到正文
热点事件持续更新

Qwen3-235B零温度推理仍现输出差异

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Thinking Machines 在 temperature 0、采用贪心解码的条件下,对 Qwen3-235B 重复发送同一提示 1000 次,得到 80 种不同输出,说明零温度并不必然保证推理结果完全一致。 Avi Chawla 在技术长文中解释,贪心解码每步选择最高 logit 的 token,本身是确定性的;但 GPU 浮点精度有限,加法顺序变化可能造成数值细微差异,偶尔使 argmax 改选其他 token。浮点计算是作者提出的一项原因,并非该测试已证明的唯一来源。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. AGI Hunt
    Qwen3-235B 实测揭示 temperature 0 推理仍不确定的浮点原因

    Avi Chawla 在技术长文中解释,LLM 即使在 temperature 0 下采用确定性的贪心解码,推理结果仍可能不确定。Thinking Machines 向 Qwen3-235B 发送同一 prompt 1000 次,得到 80 种不同输出,原因之一是 GPU 浮点精度有限及加法顺序差异导致 argmax 偶尔选择不同 token。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。