AGI Hunt· irombie·· 3 小时前AI 评分48
Qwen3 温度 0 跑 1000 次得 80 种回答:你的 LLM 评测为何在说谎
「你的 LLM 评测在说谎」:温度 0 也非确定性,Qwen3 跑 1000 次得 80 种回答
AI 导读
文章以 Qwen3-235B 在温度 0 下运行 1000 次得到 80 种回答为例,说明 LLM 推理并非完全确定性,使用 batch-invariant kernels 后可实现 1000 次结果完全一致。格式化分隔符、空格和大小写等保义变化,曾令 LLaMA-2-13B 准确率最多移动 76 个点;同一评测 5 次结果也可能落在 73%~93%,因此评测应报告重跑区间。
来源:AGI Hunt · agihunt.info