《SVM→7
.SVM核变换》
- 对解线性分类问题, 线性分类支持向量机是一种非常有效的方法. 但是有时分类问题是非线性的, 这时可以使用非线性支持向量机
- 举例
- 假设有,此时在3D空间不可线性划分,我们通过一个函数将数据映射到更高维的空间,比如说,即将数据映射成了9维
- 我们知道在求解a*时会计算数据的内积
- 具体点,令,那么
- 此时但是如果维数继续扩大的话,计算量就太大了
- 但是发现,也就是说,所以使用核函数的好处是,可以在一个低维空间去完成高维度(或无限维度)样本内积的运算。
- 设x和z都是n维的,将其映射到n2维,由于将j换成i是不对的,这样就没有xi*xj了(i!=j),因此可以只计算原始特征x和z内积的平方来节省时间
- 常用核函数
描述 | 核函数和决策函数 | ||||||||
---|---|---|---|---|---|---|---|---|---|
|
|
||||||||
data1 | data2 | ||||||||
data1 | data2 | ||||||||
data1 | data2 |