改善方法:
1.多次随机初始值,比较最小值
2.模拟退火算法,
3.随机梯度下降,我们知道梯度下降能找出局部最小值,而随机梯度下降在与其相比较的时候加入了一个随机的因素,这样即使落入了局部最小值,但是他的梯度可能并不为0。因为使用梯度下降的时候,在落入局部最小值时,计算的梯度是为0的,但是使用随机梯度下降,就保留了落入局部最小值时梯度不为0的可能,这样他就有机会跳出局部最小值了
改善方法:
1.多次随机初始值,比较最小值
2.模拟退火算法,
3.随机梯度下降,我们知道梯度下降能找出局部最小值,而随机梯度下降在与其相比较的时候加入了一个随机的因素,这样即使落入了局部最小值,但是他的梯度可能并不为0。因为使用梯度下降的时候,在落入局部最小值时,计算的梯度是为0的,但是使用随机梯度下降,就保留了落入局部最小值时梯度不为0的可能,这样他就有机会跳出局部最小值了