版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/itnerd/article/details/83447223
令 ||·|| 为
R
n
\R^n
R n 上的范数,定义其对偶范数
∣
∣
⋅
∣
∣
∗
||·||_*
∣ ∣ ⋅ ∣ ∣ ∗ 的为:
∣
∣
z
∣
∣
∗
=
sup
{
z
T
x
∣
    
∣
∣
x
∣
∣
≤
1
}
.
||z||_* = \sup\{z^Tx|\;\; ||x|| \leq 1\}.
∣ ∣ z ∣ ∣ ∗ = sup { z T x ∣ ∣ ∣ x ∣ ∣ ≤ 1 } . 上式可以看成如下优化问题的最优值:
m
a
x
i
m
i
z
e
x
    
z
T
x
s
.
t
.
    
∣
∣
x
∣
∣
≤
1
maximize_x \;\; z^Tx\\ s.t. \;\;||x|| \leq 1
m a x i m i z e x z T x s . t . ∣ ∣ x ∣ ∣ ≤ 1 此外,还有一些等价定义:
∣
∣
z
∣
∣
∗
=
sup
∣
∣
x
∣
∣
≤
1
z
T
x
=
sup
∣
∣
x
∣
∣
=
1
z
T
x
=
sup
x
≠
0
z
T
x
∣
∣
x
∣
∣
||z||_* = \sup_{||x|| \leq 1}z^Tx=\sup_{||x|| = 1}z^Tx=\sup_{x \neq 0}\frac{z^Tx}{||x||}
∣ ∣ z ∣ ∣ ∗ = ∣ ∣ x ∣ ∣ ≤ 1 sup z T x = ∣ ∣ x ∣ ∣ = 1 sup z T x = x ̸ = 0 sup ∣ ∣ x ∣ ∣ z T x 事实上,对偶范数可以解释成
z
T
z^T
z T 的算子范数,即
1
×
n
1\times n
1 × n 矩阵
z
T
z^T
z T 的诱导范数。
由上述定义我们可以得到对所有 x 和 z 都成立的不等式:
z
T
x
≤
∣
∣
x
∣
∣
  
∣
∣
z
∣
∣
∗
z^Tx \leq ||x||\;||z||_*
z T x ≤ ∣ ∣ x ∣ ∣ ∣ ∣ z ∣ ∣ ∗ 由霍尔德(Hölder)不等式 可以直接得出:
l
p
−
l_p-
l p − 范数的对偶范数是
l
q
−
l_q-
l q − 范数,其中
1
p
+
1
q
=
1
\frac1p+\frac1q=1
p 1 + q 1 = 1 :
z
T
x
≤
∣
∣
x
∣
∣
p
∣
∣
z
∣
∣
q
⇒
∣
∣
z
∣
∣
∗
=
sup
x
≠
0
z
T
x
∣
∣
x
∣
∣
p
=
∣
∣
z
∣
∣
q
z^Tx \leq ||x||_p||z||_q\\\Rightarrow ||z||_* =\sup_{x \neq 0}\frac{z^Tx}{||x||_p}=||z||_q
z T x ≤ ∣ ∣ x ∣ ∣ p ∣ ∣ z ∣ ∣ q ⇒ ∣ ∣ z ∣ ∣ ∗ = x ̸ = 0 sup ∣ ∣ x ∣ ∣ p z T x = ∣ ∣ z ∣ ∣ q
由此可以得出一些简单结论:
l
2
−
l_2-
l 2 − 范数的对偶范数是
l
2
−
l_2-
l 2 − 范数
l
1
−
l_1-
l 1 − 范数的对偶范数是
l
∞
−
l_\infty-
l ∞ − 范数
对偶范数的对偶范数是原范数