最优化理论——(一)绪论2 数学预备知识

1.向量的范数和矩阵的正定性

1.基本概念
在这里插入图片描述

2.内积与范数
在这里插入图片描述

  • 范数是具有“长度”概念的函数。在线性代数、泛函分析及相关的数学领域,是一个函数,其为向量空间内的所有向量赋予非零的正长度或大小。用表示 ||x||
  • 关于范数与内积,我们有两个重要不等式
    • 三角不等式:
      ∣ ∣ x + y ∣ ∣ < = ∣ ∣ x ∣ ∣ + ∣ ∣ y ∣ ∣ ||x+y||<=||x||+||y|| ∣∣x+y∣∣<=∣∣x∣∣+∣∣y∣∣
    • 柯西不等式:
      ∣ x T ∣ < = ∣ ∣ x ∣ ∣ ∣ ∣ y ∣ ∣ |x^T|<=||x||| |y|| xT<=∣∣x∣∣∣∣y∣∣在这里插入图片描述
  • 定义
    在这里插入图片描述
  • 定理
    在这里插入图片描述

3.正定矩阵

  • 定义:设A为n阶实对称方阵,对任意n维非零向量x
    在这里插入图片描述除此之外,称A为不定矩阵
  • 性质
    在这里插入图片描述

2.多元函数的梯度、Hesse矩阵及Taylor 公式

在这里插入图片描述
1.梯度定义
在这里插入图片描述
2.方向导数
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
3.梯度性质
在这里插入图片描述
4.Hesse矩阵
在这里插入图片描述
在这里插入图片描述
5.几个常用向量值函数的梯度公式
在这里插入图片描述
6.向量值函数的可微
在这里插入图片描述
在这里插入图片描述
7.n元函数在一点处的泰勒展式
在这里插入图片描述

猜你喜欢

转载自blog.csdn.net/m0_63853448/article/details/127038586