- 深度学习本书的作者是伊恩·古德费洛,约书亚·本吉奥,亚伦·库维尔
- 如果觉得我的笔记有不合适的地方,欢迎留言。
学习笔记(一)
关键字:1.标量、向量、矩阵和张量2.矩阵和向量相乘 3.单位矩阵和逆矩阵
1.标量、向量、矩阵和张量
(1) 标量:一个标量就是一个单独的数,用斜体小写的变量名称来表示标量。在介绍时,要明确是哪种类型的数。eg:令s∈R表示一条线的斜率。
(2)向量:一个向量是一列数。用粗体小写的变量名称来表示向量。eg:向量x的第一个元素x1。在介绍时,也要明确是哪种类型的数。向量中的数是有序排列的。通过索引,可以确定每个单独的数。如果每个元素都属于R,并且向量有n个元素,那么该向量属于实数集R的n次笛卡尔积构成的集合,记为R的n次方。用-表示集合的补集中的索引。eg:表示x中除x1外是所有元素。
(3)矩阵:矩阵是一个二维数组,两个索引确定一个元素。用粗体大写的变量名称来表示矩阵,eg:A。用:表示水平坐标,以表示垂直坐标i中的所有元素。eg:表示第i行。表示第i列
(4)张量:一般的,一个数组中的元素分布在若干维坐标的规则网格中,称之为张量,eg:A。
(5)转置:
矩阵:把矩阵A的转置记为,定义如下:
向量:把向量看作只有一列的矩阵,向量的转置可以看作只有一行的矩阵。
标量:标量可以看作只有一个元素的矩阵。所以标量的转置为它本身。
2.矩阵和向量相乘
运算有以下
(1)矩阵+矩阵,两矩阵形状一样,就可以相加。对应位置元素相加。eg:
(2)标量+矩阵,标量x矩阵,将标量与矩阵的每个元素相加或相乘。eg:
(3)矩阵+向量,向量和矩阵的每一行相加。eg:
(4)矩阵乘积,矩阵x矩阵,矩阵A的列数必须等于矩阵B的行数。eg:满足分配律,结合律
(5)元素对应乘积:两矩阵对应位置元素的乘积。
(6)点积:两个相同维数的向量x和y的点积,满足交换律
3.单位矩阵和逆矩阵
(1)任意向量和单位矩阵相乘都不会发生变化。单位矩阵是方阵,主对角线都是1,其余位置都是0。
(2)矩阵A的矩阵逆记为。逆矩阵的定义满足如下条件: