有时候需要将一个信号与多个参考信号进行比较，以便确定每对信号之间的相似性，从而从相似性中提取出额外的信息。

  在雷达应用中，接收到的信号是目标反射回来的信号，该信号是反射信号的延迟形式，通过测量延迟，可以确定目标的位置。

从向量的内积谈起

  按照一般教科书的写法，一般会直接给出一个互相关的公式，比如两个能量信号序列的相关性的度量可以定义为
$r_{xy}[l]=\sum_{n=-\infty}^{\infty}x[n]y[n-l]$先不解释这个公式的组成以及含义，但是我学习这个的时候一直想，为什么这个公式能够给出两个信号之间的相关性的度量。

  所以我打算从向量的内积开始，从向量的内积讲到这个公式，不过由于接下来的都是我的理解，我在数字信号处理的教材中还没有看到相关的介绍(可能是我读书少)，所以接下来的数学推导并不是很准确(事实上涉及的数学推导几乎没有)，重点是这种思想的理解。

  首先考虑两个向量，这两个向量的模长都是固定的，那么怎么描述两个向量之间的相关程度，在我看来，二者之间的夹角大小可以描述这种相关性，如果两个向量相关性高，说明两向量之间的夹角比较小，根据向量的内积
$\vec{a} \cdot \vec{b}=\vert a \vert \vert b \vert cos\phi$其中 $\phi$为向量 $\vec{a}$与向量 $\vec{b}$之间的夹角，如果两个向量相关性越高，那么二者之间的夹角越小，所以 $cos\phi$越大，由于向量的模长固定，所以相关性越高也就代表着两向量的内积越大。

  如果用坐标形式表示，假设两个向量都是二维向量，那么向量的内积可以表示为
$\vec{a} \cdot \vec{b}=x_ax_b+y_ay_b$

虽然我这里用的二维向量，但是明显可以推广到无限维的情况。

  那么接下来我们在来看之前在文章开头定义的那个公式
$r_{xy}[l]=\sum_{n=-\infty}^{\infty}x[n]y[n-l]$对于序列 $x[n]$和序列 $y[n-l]$可以看做是一个无限维的向量，而
$x[-\infty], ..., x[0], ..., x[\infty]$可以看做是"向量" $x[n]$(这里我把 $x[n]$看做是一个向量了)的坐标，相应的
$y[-\infty], ..., y[-l], ... y[\infty]$可以看做"向量" $y[n-l]$的坐标，所以
$\sum_{n=-\infty}^{\infty}x[n]y[n-l]$可以看做是"向量" $x[n]$与"向量" $y[n-l]$的内积，而对于取不同的 $l$， $x[n]$的模与 $y[n-l]$的模都是不变的(不论序列 $y[n]$是有限长还是无限长)，符合我们推导时做的假设，所以在这里我从向量的内积这个方面解释了为什么这个公式可以表示两个信号的相关性程度。

定义

互相关

  上面从向量内积的角度理解了互相关公式，接下来将按照教科书上给出严格的定义。

  互相关序列 $r_{xy}[l]$表示一对能量序列 $x[n]$和 $y[n]$之间相似性的度量，其定义为(假设式中的无限求和是收敛的)
$r_{xy}[l]=\sum_{n=-\infty}^{\infty}x[n]y[n-l]$
式中， $r_{xy}[l]$代表了序列 $x[n]$与序列 $y[n-l]$之间的相关性程度，所以 $r_{xy}[l]$越大，代表序列 $x[n]$与序列 $y[n-l]$的相似性越高。

互相关的性质

  由互相关公式 $r_{xy}[l]=\sum_{n=-\infty}^{\infty}x[n]y[n-l]$
则 $r_{yx}[l]=\sum_{n=-\infty}^{\infty}y[n]x[n-l]$
令 $m=n-l$，得到
$\color{red}r_{yx}[l]=\sum_{m=-\infty}^{\infty}x[m]y[m-(-l)]=r_{xy}[-l]$

自相关

  同理，我们定义自相关序列，只要将 $y[n]$替换为 $x[n]$即可
$r_{xx}[l]=\sum_{n=-\infty}^{\infty}x[n]x[n-l]$
由于上面推导得到
$r_{yx}[l]=r_{xy}[-l]$
所以得到
$r_{xx}[l]=r_{xx}[-l]$
即自相关序列是一个偶序列。

自相关的性质

  另一个需要注意的是，当 $l=0$时，自相关序列
$r_{xx}[0]=\sum_{n=-\infty}^{\infty}x[n]x[n]=\sum_{n=-\infty}^{\infty}\vert x[n] \vert^2$
所以 $r_{xx}[0]$的大小就是序列 $x[n]$的能量。

  根据我们之前在向量的内积中的定义 $\sum_{n=-\infty}^{\infty}x[n]x[n]$可以看做是序列 $x[n]$与序列 $x[n]$的内积，二者之间的夹角为 $0$(为最小夹角，相关性最大)，所以
$\sum_{n=-\infty}^{\infty}x[n]x[n] \geq\sum_{n=-\infty}^{\infty}x[n]x[n-l]$
即 $r_{xx}[l]\leq r_{xx}[0],\quad -\infty < l < \infty$

  在这个的基础上，我们可以简单的谈一下在文章开头提到的雷达检测问题:

在雷达应用中，接收到的信号是目标反射回来的信号，该信号是反射信号的延迟形式，通过测量延迟，可以确定目标的位置。

  这里有个重点是接收到的信号是发射信号的延时，我们记接收到的信号为 $h[n]$，发射的信号为 $x[n]$，如果接收到的信号是延迟 $2s$的话，那么 $h[n]=x[n-2]$，假设检测的过程是，计算 $h[n]$与 $x[n]$及其延迟的互相关值，得到序列 $r[l]$
$r[l]=\sum_{n=-\infty}^{\infty}h[n]x[n-l]$由于 $h[n]=x[n-2]$，所以序列 $r[2]$是序列 $r[l]$的最大值，所以我们通过观察序列 $r[l]$最大值出现的位置，就可以知道延迟的时间，从而确定目标的位置。

  实际上接收到的信号还附有噪声，分析的过程比这个要复杂一些，但是基本的原理还是这个，只是牵涉到了一些数学公式，我觉得把握这种思想就可以了。

相关与卷积

  继续探究互相关序列
$r_{xy}[l]=\sum_{n=-\infty}^{\infty}x[n]y[n-l]$
将其适当的变形可以写成
$r_{xy}[l]=\sum_{n=-\infty}^{\infty}x[n]y[-(l-n)]=x[l]*y[-l]$
所以互相关序列可以写成序列 $x[l]$与序列 $y[-l]$的卷积。

  同理，自相关序列可以写成
$r_{xx}[l]=x[l]*x[-l]$

相关的归一化形式

  在之前我们提到用向量的内积表示相关性的大小，其本质是由其夹角决定的，所以我们可以直接利用夹角的余弦值来定义相关性的大小。在向量理论中：
$cos\phi = \frac{\vec{a} \vec{b}}{\vert \vec{a} \vert \vert \vec{b} \vert}$

注意到
$\sum_{n=-\infty}^{\infty}\vert x[n-l] \vert ^2 = \sum_{n=-\infty}^{\infty}\vert x[n] \vert ^2 = r_{xx}[0]$
而这个也可以看做事向量模长的平方。

  所以我们定义自相关的归一化形式为
$\rho_{xx}[l]=\frac{r_{xx}[l]}{\sqrt{r_{xx}[0]}\sqrt{r_{xx}[0]}}=\frac{r_{xx}[l]}{r_{xx}[0]}$

  同理我们定义互相关的归一化形式为
$\rho_{xy}[l]=\frac{r_{xy}[l]}{\sqrt{r_{xx}[0]}\sqrt{r_{yy}[0]}}$

  所以 $\vert \rho_{xx}[l] \vert \leq 1,\vert \rho_{xy}[l]\leq 1 \vert$。

当 $\rho_{xy}[l]=1$代表 $cos\phi=1 \Rightarrow \phi=0$，说明这时序列的相关性最大
当 $\rho_{xy}[l]=0$代表 $cos\phi=0 \Rightarrow \phi=\pi /2$，说明这两个序列不相关
当 $\rho_{xy}[l]=-1$代表 $cos\phi=-1 \Rightarrow \phi=\pi$，说明这时序列线性负相关

功率和周期信号的相关

  在之前的介绍中，介绍的都是能量信号的相关，对于功率信号来说，它的能量为无穷大，所以上述的定义不太适合，类似于功率信号的定义，我们定义功率信号 $x[n],y[n]$的互相关为
$r_{xy}[l]=\lim\limits_{K \to \infty}\frac{1}{2K+1}\sum_{n=-K}^{K}x[n]y[n-l]$功率信号 $x[n]$的自相关定义为
$r_{xx}[l]=\lim\limits_{K \to \infty}\frac{1}{2K+1}\sum_{n=-K}^{K}x[n]x[n-l]$

  如果 $\tilde{x}[n]$和 $\tilde{y}[n]$是周期为 $N$的两个周期信号，那么其互相关序列为
$r_{\tilde{x} \tilde{y}}[l]=\frac{1}{N}\sum_{n=0}^{N-1}\tilde{x}[n]\tilde{y}[n-l]$
$\tilde{x}[n]$的自相关序列为
$r_{\tilde{x} \tilde{x}}[l]=\frac{1}{N}\sum_{n=0}^{N-1}\tilde{x}[n]\tilde{x}[n-l]$

  我们很容易的知道，序列 $r_{\tilde{x} \tilde{y}}[l]$和序列 $r_{\tilde{x} \tilde{x}}[l]$都是周期序列，且周期为 $N$。