1. Matrix product (矩阵乘法)

定义: 给定 $m\times p$大小的矩阵 $A$， $p\times n$大小的矩阵 $B$，则矩阵 $A$， $B$的乘积为 $m\times n$大小的矩阵 $C$，计算过程如下，

$C=A\cdot B$

其中， $C_{i,j}=\sum_{k=1}^{p}{A_{i,k}\cdot B_{k,j}}$， $1\leq i\leq m,1\leq j\leq n$

举例: 给定 $2\times 3$大小的矩阵 $A=\begin{bmatrix}0 & 1 & 2\\ 3 & 4 & 5\end{bmatrix}$， $3\times 2$大小的矩阵 $B=\begin{bmatrix}0 & 3\\ 1 & 4\\ 2 & 5\end{bmatrix}$，则矩阵 $A$， $B$的乘积为 $2×2$大小的矩阵 $C$，计算过程如下，

$C=A\cdot B$

$=\begin{bmatrix} 0 & 1 & 2\\ 3 & 4 & 5\end{bmatrix}\cdot \begin{bmatrix}0 & 3\\ 1 & 4\\ 2 & 5\end{bmatrix}$

$=\begin{bmatrix}0\times0+1\times1+2\times2 & 0\times3+1\times4+2\times5\\ 3\times0+4\times1+5\times2 & 3\times3+4\times4+5\times5\end{bmatrix}$

$=\begin{bmatrix}5 & 14\\ 14 & 50\end{bmatrix}$

2. Hadamard product (哈达马积)

定义: 给定 $m\times n$大小的矩阵 $A$， $m\times n$大小的矩阵 $B$，则矩阵 $A$， $B$的Hadamard product为 $m\times n$大小的矩阵 $C$，计算过程如下，

$C=A\bigodot B$

其中， $C_{i,j}=A_{i,j}\cdot B_{i,j}$， $1\leq i\leq m,1\leq j\leq n$

举例: 给定 $2\times 3$大小的矩阵 $A=\begin{bmatrix}0 & 1 & 2\\ 3 & 4 & 5\end{bmatrix}$， $3\times 2$大小的矩阵 $B=\begin{bmatrix}3 & 4 & 5\\ 0 & 1 & 2\end{bmatrix}$，则矩阵 $A$， $B$的乘积为 $3×2$大小的矩阵 $C$，计算过程如下，

$C=A\bigodot B$

$=\begin{bmatrix}0 & 1 & 2\\ 3 & 4 & 5\end{bmatrix}\bigodot \begin{bmatrix}3 & 4 & 5\\ 0 & 1 & 2\end{bmatrix}$

$=\begin{bmatrix}0 \times 3 & 1\times 4 & 2 \times 5\\ 3\times 0 & 4\times 1 & 5 \times 2\end{bmatrix}$

$=\begin{bmatrix}0 & 4 & 10\\ 0 & 4 & 10\end{bmatrix}$

3. Dot product (点积)

定义: 给定 $1\times n$大小的向量 $\vec{a}$， $1\times n$大小的向量 $\vec{b}$， 则向量 $\vec{a}$， $\vec{b}$的点积为 $1\times 1$大小的数值 $c$， 计算过程如下，

$c=\vec{a}\bullet \vec{b}$

$=\sum_{i=1}^{n}{a_ib_i}$

举例: 给定 $1\times 3$大小的向量 $\vec{a}=\begin{pmatrix}0 & 1 & 2\end{pmatrix}$， $1\times 3$大小的向量 $\vec{b}=\begin{pmatrix}3 & 4 & 5\end{pmatrix}$，则向量 $\vec{a}$， $\vec{b}$的点积为数值 $c$，计算过程如下，

$c=\vec{a}\bullet \vec{b}$

$=0\times 3 + 1 \times 4 + 2 \times 5$

$= 4 + 10$

$=14$

4. Cross product (叉积)

定义: 叉积是依赖于欧几里德三维空间的一个度量单位。给定三维空间中 $1\times 3$大小的向量 $\vec{a}$和 $1\times 3$大小的向量 $\vec{b}$，则向量 $\vec{a}$， $\vec{b}$的叉积为 $1\times 3$大小的向量 $\vec{c}$，计算过程如下，

$\vec{c}=\vec{a}\times \vec{b}$

$= \begin{Vmatrix}a \end{Vmatrix}\begin{Vmatrix}b \end{Vmatrix}sin(\theta) \zeta$

其中， $\theta$为向量 $a$和向量 $b$之间的夹角， $\zeta$为叉积 $\vec{c}$的方向，即右手定则下，向量 $\vec{a}$和向量 $\vec{b}$之间法线的方向。

衍生: 根据叉积的定义，给定三维坐标， $y$， $z$的基坐标分别为 $\vec{i}$， $\vec{j}$ ， $\vec{k}$，根据右手定则有，

$\vec{i}\times \vec{j}=\vec{k}$

$\vec{j}\times \vec{k}=\vec{i}$

$\vec{k}\times \vec{i}=\vec{j}$

$\vec{j}\times \vec{i}=-\vec{k}$

$\vec{k}\times \vec{j}=-\vec{i}$

$\vec{i}\times \vec{k}=-\vec{j}$

其中，当 $\theta =0$时候，有，

$\vec{i}\times \vec{i}=\vec{0}$

$\vec{j}\times \vec{j}= \vec{0}$

$\vec{k}\times \vec{k}= \vec{0}$

举例一 (向量形式): 给定三维空间中的两个向量 $\vec{u}$， $\vec{v}$，令 $\vec{u} = u_1\vec{i} + u_2\vec{j} + u_3\vec{k}$， $\vec{v} = v_1\vec{i} + v_2\vec{j} + v_3\vec{k}$，根据定义，有，

$\vec{u} \times \vec{v} = \left ( u_1\vec{i} + u_2\vec{j} + u_3\vec{k} \right ) \times \left ( v_1\vec{i} + v_2\vec{j} + v_3\vec{k} \right )$

$= u_1v_1\vec{i}\times \vec{i} + u_1v_2\vec{i}\times \vec{j} + u_1v_3\vec{i}\times \vec{k} + u_2v_1\vec{j}\times \vec{i} + u_2v_2\vec{j}\times \vec{j} + u_2v_3\vec{j}\times \vec{k} + u_3v_1\vec{k}\times \vec{i} + u_3v_2\vec{k}\times \vec{j} + u_3v_3\vec{k}\times \vec{k}$

$= \vec{0} + u_1v_2\vec{k} - u_1v_3\vec{j} - u_2v_1\vec{k} + \vec{0} + u_2v_3\vec{i} + u_3v_1\vec{j} - u_3v_2\vec{j} - u_3v_2\vec{i} + \vec{0}$

$= u_1v_2\vec{k} - u_1v_3\vec{j} - u_2v_1\vec{k} + u_2v_3\vec{i} + u_3v_1\vec{j} - u_3v_2\vec{i}$

$= \left ( u_2v_3 - u_3v_2 \right )\vec{i} + \left ( u_3v_1 - u_1v_3 \right )\vec{j} + \left ( u_1v_2 - u_2v_1 \right )\vec{k}$

举例二 (行列式形式): 给定三维空间中的两个向量 $\vec{u}$， $\vec{v}$，令 $\vec{u} = u_1\vec{i} + u_2\vec{j} + u_3\vec{k}$， $\vec{v} = v_1\vec{i} + v_2\vec{j} + v_3\vec{k}$，差积也可以通过构造矩阵，计算行列式而得，如下，

$\vec{u} \times \vec{v} = \begin{vmatrix} \vec{i} & \vec{j} & \vec{k}\\ u_1 & u_2 & u_3\\ v_1 & v_2 & v_3 \end{vmatrix}$

高阶方阵的行列式可以通过根据拉普拉斯定理降维计算而得，如下，

$\vec{u} \times \vec{v} = \begin{vmatrix}u_2 & u_3\\ v_2 & v_3\end{vmatrix}\vec{i} - \begin{vmatrix}u_1 & u_3\\ v_1 & v_3\end{vmatrix}\vec{j} + \begin{vmatrix}u_1 & u_2\\ v_1 & v_2\end{vmatrix}\vec{k}$

$= \left ( u_2v_3 - u_3v_2 \right )\vec{i} + \left ( u_3v_1 - u_1v_3 \right )\vec{j} + \left ( u_1v_2 - u_2v_1 \right )\vec{k}$