Matharium 一张图讲清梯度、雅可比矩阵与 Hessian 在机器学习中的角色

Matharium 发布一张科普长图，系统对比梯度、雅可比矩阵与 Hessian 矩阵在机器学习中的作用。梯度 ∇f 指向函数上升最快方向，用于梯度下降优化；雅可比矩阵 JF 给出小变化量的最佳线性近似，是反向传播逐层传播导数的基础。Hessian 矩阵为对称二阶偏导矩阵，特征值描述局部曲率，用于牛顿法等二阶优化与临界点分类。