教材里面没有对直接消去法&广义消去法进行任何介绍,所有的内容都在老师的PPT里面,又起了个名字叫降维。公式太多了,老师又说的确要考,所以打算只把大致思路理清楚,真考到了列出处理思想就跑。
一、直接消去法
考虑具有等式线性约束的二次规划:
min 21xTHx+cTxs.t. Ax=b 和线性规划种类似,先将A矩阵进行分块:
A=[AB∣AN] 同时对
x、
Q、
d也进行相应分块:
x=[XBXN],Q=[QBBQNBQBNQNN],d=[dBdN] 根据分块可以将等式约束重写为以下形式。这一步其实是在用非基变量替换基变量:
ABxB+ANxN=b⇒xB=AB−1(b−ANxN) 将此式代入原二次规划目标函数即可得到:
min 21xNTQ
xN+d
T+c
其中三个参数都可以使用原式各分量相互结合表示:(根本没办法记)
通过这三个基本表示式,若
Q
正定,可以计算出
x∗和
λ∗。若
Q
半正定,求广义逆
Q
+,表示
x∗和
λ∗。若
Q
存在负特征值时,问题无解。
二、广义消去法
广义消去法由来:直接消去法很直观,使用非基变量表示基变量,但是由于需要计算
AB的逆,当
AB接近奇异时会导致误差很大,所以将直接消去法进行推广,得到广义消去法。
子空间构建:将全空间划分为关于
A的两个互补子空间:
Yn∗m和
Zn∗(n−m)。
[Y Z]是正交矩阵。满足
AY非奇异,
AZ=0。
将变量
x用子空间
[Y Z]表示:
x=Yx+Zx
将其带入二次规划约束式中,利用
A的子空间定义可以得到:
AYx=b 此式代入上式得到:
x=Y(AY)−1b+Zx
至此已经将求解
x的问题转换为求解
x
,达到了降维的目的。求解就算了…