版权声明:站在巨人的肩膀上学习。 https://blog.csdn.net/zgcr654321/article/details/84926971
ZCA(Zero-phase Component Analysis):
ZCA变换的目标是去除特征之间的相关性,它的目标是:让每个特征自身的方差变为1,让特征之间的协方差变为0 。
已知Y=WX
假设线性变换矩阵W是一个对称矩阵:
我们的目标是令
那么Y=WX可以转化为:
同时去掉左右式子中最右边的WT,得:
假设X不全为0 ,那么就是一个对称矩阵,满足可逆性,故有:
这样我们就可以得出需要的W矩阵。
那么对于怎么计算呢?我们还要进行进一步变换。
是一个对称矩阵,对称矩阵可以被对角化。首先求出的特征值和特征向量:
对称矩阵有一个特性就是,它的特征向量可以构成一个标准正交矩阵,而标准正交矩阵的的逆矩阵和转置矩阵相等。故有:
于是可以转化为:
故最终W为:
S为的所有特征向量(每一列一个特征向量),为对角矩阵,其主对角元素为所有的特征值。
这样W就可以计算了。
PCA和ZCA的区别:
PCA和ZCA白化都降低了特征之间的相关性,同时使得所有特征具有相同的方差。
PCA需要保证数据各维度的方差为1,ZCA白化只需保证方差相等;
PCA可进行降维也可以去相关性,而ZCA白化主要用于降低相关性;
ZCA白化相比于PCA使得处理后的数据更加的接近原始数据。