不同NVIDIA GPU运行同一模型输出有差异

Kyrannio分析并实测不同代际 NVIDIA GPU 运行同一模型时的输出差异。结果显示，即使权重和提示词完全一致，BF16、FP8、FP4 的舍入和数值行为仍会因 GPU 架构而异，输出准确率也可能略有不同。 这意味着模型结果不一定能在不同硬件间完全复现；进行跨硬件复现或严格评测时，需要将 GPU 代际与所用精度格式纳入比较。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。