3.2保凸运算
- 非负加权求和
- 复合仿射映射
- 逐点最大和逐点上确界
- 复合
- 最小化函数
- 透视函数
非负加权求和
凸函数的非负加权求和得到的函数仍为凸函数
如果均为凸函数,,仍为凸函数。
证明:
因为是凸函数,故
得证
例子:
复合仿射映射
f(Ax+b),如果f是凸函数,f(Ax+b)也是凸函数,如果f是凹函数,f(Ax+b)也是凹函数。
逐点最大和逐点上确界
逐点最大
如果均为凸函数,仍为凸函数。
证明:
因为是凸函数,故
得证。
例子
最大r个分量之和:,表示x中第i大的分类,函数f(x)的结果是x的最大r个分量之和。
f(x)是凸函数。
可以这样理解f(x)
表示x的任意r个不同分量,f(x)即表示从x中任意五r个不同的分量求和的所有可能组合的最大值,也是一种逐点最大。所有也是凸函数。
逐点上确界
逐点最大的性质扩展到无限个凸函数的逐点上确界。
如果对于任意的,f(x,y)关于x都是凸的,则函数g
关于x也是凸的。
关于g(x)我的理解就是在每一个x上取可以使f(x,y)最大的y,得到的f(x,y),组成一个函数g。
上确界函数的上境图是这些函数的上境图的交集。
复合
标量复合
当g和h都二次可微,且的时候,f(x)的二阶导数为:
可知
- 如果h是凸函数且非减,g是凸函数,则f是凸函数。
- 如果h是凸函数且非增,g是凹函数,则f是凸函数。
- 如果h是凹函数且非减,g是凹函数,则f是凹函数。
- 如果h是凹函数且非增,g是凸函数,则f是凹函数。
在不假设g和h均二次可微,定义域也不满足时,可以先对h进行扩展值延伸,如果h是凸函数,则对不在dom(h)的点赋值为正无穷大,如果是h是凹函数,则对不在dom(h)的点赋值为负无穷,扩展值延伸后的函数记为。于是上述结论改为:
- 如果h是凸函数且非减,g是凸函数,则f是凸函数。
- 如果h是凸函数且非增,g是凹函数,则f是凸函数。
- 如果h是凹函数且非减,g是凹函数,则f是凹函数。
- 如果h是凹函数且非增,g是凸函数,则f是凹函数。
矢量复合
类比标量复合,当g和h均二次可微,且时,f(x)的二阶导:
可知:
- 如果h是凸函数且在每一维上h非减,是凸函数,则f是凸函数。
- 如果h是凸函数且在每一维上h非增,是凹函数,则f是凸函数。
- 如果h是凹函数且在每一维上h非减,是凹函数,则f是凹函数。
- 如果h是凹函数且在每一维上h非增,是凸函数,则f是凹函数。
同样在不假设h和g的二次可微性和定义域时,对h进行扩展值延伸,然后进行如下判断:
- 如果h是凸函数且在每一维上非减,是凸函数,则f是凸函数。
- 如果h是凸函数且在每一维上非增,是凹函数,则f是凸函数。
- 如果h是凹函数且在每一维上非减,是凹函数,则f是凹函数。
- 如果h是凹函数且在每一维上非增,是凸函数,则f是凹函数。
书上写着不仅需要h满足增减性要求,也要满足,这里只写了满足是因为满足增减性意味着h也同样满足。
最小化
如果是凸函数,且C是凸集,则
也是凸函数。inf表示下确界,利用上境图来解释:
其实就是将f的上境图投影到x,t上得到g的上境图。而凸集在其某些分量上的投影仍为凸集,故epi(g)是凸集,故g是凸函数。
对g(x)的理解就是在f(x,y)函数上,找到可以是函数f(x,y)最小的y,然后将y带入f(x,y)得到了f关于x的函数。
例子:
其中A和C为对称矩阵。
令其为0,得到
为C的伪逆。带入f(x,y)得到:
因为C是对称阵,故上式
根据伪逆性质:
于是f(x,y)等于
g(x)也可以表示成:
透视函数
给定函数,则f的透视函数定义为:
透视运算是保凸运算,如果函数f是凸函数,则g也是凸函数,如果f是凹函数,则g也是凹函数。
例子:
是凸函数,则也是凸函数,当t大于0时。
是凸函数,则也是凸函数,当t大于0时。
如果f是凸函数,则也是凸函数。