借助老师的PPT对约束非线性优化问题的几何意义和对偶形式进行阐述。
一、几何意义
(1)等式约束
考虑只有等式约束h(x)的非线性优化问题,形式为:
可视化结果如下图所示,红色曲线为等式约束,环线为目标函数等值面。达到最优解x*时,必定可以在此处借助Lagrange乘子完成梯度合成。
(2)不等式约束
约束条件换成不等式,此处只考虑一般形式的>=0约束:
Lagrange函数为:
可视化结果为:
在最优解处完成了梯度合成,并且众多不等式约束满足互补松弛条件,即其中有一个必为0。
二、对偶形式
对于原问题:
q对偶问题为:
Lagrange对偶函数定义为L函数的下确界: