文章目录
无约束问题的极值条件
必要条件
二阶充分条件
充要条件
约束极值问题的最优性条件
基本概念
- 下降方向
- 可行方向
- 两者关系
不等式约束(一阶条件)
知识补充
作用约束
可行方向锥(定义作用约束条件下)
必要条件(局部最优解必要条件)
几何条件
代数条件:Fritz John 条件
代数条件:K-T 条件(增加了约束规格)
充分条件(全局最优解充分条件(凸函数))
等式约束+不等式约束
知识补充
可行移动的描述
必要条件:局部最优解必要条件
几何条件
代数条件:Fritz John 条件
代数条件:K-T 条件(增加了约束规格)
充分条件:全局最优解充分条件(凸函数)
二阶条件
二阶导数反映了函数的曲率特征,对稳定算法的设计有重要意义,因此需要研究约束问题的二阶最优性条件
补充知识
二阶必要条件
二阶充分条件
对偶及鞍点问题
留坑代填
总结
- 本章主要讲的是如何从理论层面而非数值层面找到最优化问题的极值点
- 主要分成:无约束最优化问题、仅有不等式约束的最优化问题,同时有不等式约束和等式约束最优化问题
- 无约束最优化问题:①找到所有的平稳点(驻点=一阶导数等于0=梯度值等于0)②然后在这些平稳点中找到最小值,即为所求的最小值点。
- 仅有不等式约束的最优化问题:①找到所有的K-T点。②找到K-T点中的最小值点。