为什么负梯度方向是局部最速下降方向?

1 首先我们要知道一些数学概念:

1) 导数
当函数定义域和取值都在实数域中的时候,导数可以表示函数曲线上的切线斜率。 除了切线的斜率,导数还表示函数在该点的变化率。
解释导数的几何意义
注意一元函数,只有一个自变量在变动,也即只存在一个方向的变化率。涉及到多元方向,则要引入偏导数。

2) 偏导数
偏导数指的是多元函数沿坐标轴的变化率,对于二元函数的偏导而言, 可以按着某一个变量不变(视为常量), 只对其中的另外一个变量求变化率. 从下面动图中可以看到对 x 求偏导, 截面与 xOz 平面平行, 其中截面与二元函数的交线就是一个一元函数的曲线.
偏导的几何解释

3) 方向导数
如何求解沿任意方向的变化率呢? 那就是方向导数. 而其中方向导数取最大值的方向就是梯度,也就是函数变化率最大的方向, 观察底部表示方向导数(蓝色)与梯度(黑色)的箭头指向(两者这里只表示方向).
假设 z = f ( x , y ) 为一个曲面, p ( x , y ) 为 f 定义域中一个点,那么对于向量u方向的斜率求解,我们可以用偏微分来简化计算。最后借助向量点乘的定义,我们可以得出向量A和向量I的夹角为0时,该方向的函数变化率最大。
这里写图片描述
方向导数的几何解释

猜你喜欢

转载自blog.csdn.net/u013045826/article/details/80027755