牛顿法Newton's method

  1. 求解方程零点f(x)=0

收敛速度快于SGD

  1. 最优化,求解极值点,即f'(x)=0

由于,Hessian矩阵的逆求解复杂,故提出拟牛顿法,常用的有L-BFGS。但是由于庞大的参数量,不利于用于大规模数据。

发布了56 篇原创文章 · 获赞 10 · 访问量 6840

猜你喜欢

转载自blog.csdn.net/qq_22148493/article/details/88077094