首先支持向量机算法有三种模型:线性可分支持向量机、线性支持向量机以及非线性支持向量机。线性可分支持向量机的训练数据是绝对可分的,即必存在一个超平面将训练集中的所有点区分开。线性支持向量机基本满足线性可分条件。非线性支持向量机线性不可分。
- 线性可分支持向量机
给点线性可分数据集,通过间隔最大化或等价地求解相应的凸二次规划问题学习得到的分离超平面为:Wx+b=0,相应的决策函数为sign(Wx+b)
2 线性支持向量机
相对线性可分支持向量机主要加入松弛变量、惩罚项和惩罚参数,目标函数为:
3 非线性支持向量机
非线性分类问题是指利用非线性模型才能很好进行分类的问题,如果能用一个超曲面将正负样例正确分开,则称这个问题为非线性问题
(总结之统计学习方法)