AGI Hunt· retr0jirachi·· 2 小时前AI 评分71
研究者展示 PyTorch backward 可运行图灵完备恶意代码
PyTorch backward 可运行图灵完备恶意代码:浮点精度漏洞被实锤
AI 导读
研究者 Elon Litman 展示,数学上恒为零的 loss 项可在任意 PyTorch 网络的 backward pass 中运行图灵完备程序,loss.item() 始终记录 0.0,训练曲线保持正常。攻击源于 IEEE 754 浮点运算与 autodiff 对常数函数的判断不一致,恶意逻辑可藏入 loss 函数,绕过模型文件哈希与代码审查等常规检查。
来源:AGI Hunt · agihunt.info