SVM(support vector machines):
支持向量机是一种二分类模型,将实例的特征向量映射为空间的一些点。
算法目的:
画线“最好地”区分这两类点
其中红线最好的区分了这两类,而蓝色其次,绿色无法区分这两类。
画线的原则:
SVM 将会寻找可以区分两个类别并且能使间隔(margin)最大的划分超平面。比较好的划分超平面,样本局部扰动时对它的影响最小、产生的分类结果最鲁棒、对未见示例的泛化能力最强。
间隔(margin):
对于任意一个超平面,其两侧数据点都距离它有一个最小距离,这两个最小距离的和就是间隔。对于上图来说,第一种超平面的划分方式导致其间隔较小,而第二种明显增大。
支持向量:
虚线上的点(它到超平面的距离相同)
扫描二维码关注公众号,回复:
17272770 查看本文章
超平面表达及求解:
超平面:
- w={w1;w2;...;wd} 是一个法向量,决定了超平面的方向, d 是特征值的个数
针对上图来说,此时特征值为x1,x2两个 即w = {w1;w2}
- X为训练样本
- b为位移项,决定了超平面与原点之间的距离
我们使用python的sklearn库来学习SVM的应用问题
# sklearn 库中导入 svm 模块
import numpy as np
import pylab as pl # 绘图功能
from sklearn import svm
# 定义三个点和标签
X = [[2, 0], [1, 1], [2,3]]
print(X)
# 分类 0为第一类 1为第二类
y = [0, 0, 1]
# 定义分类器,clf 意为 classifier,是分类器的传统命名
clf = svm.SVC(kernel='linear') # .SVC()就是 SVM 的方程,参数 kernel 为线性核函数
# 训练分类器
clf.fit(X, y) # 调用分类器的 fit 函数建立模型(即计算出划分超平面,且所有相关属性都保存在了分类器 cls 里)
# 打印分类器 clf 的一系列参数
print(clf)
# 支持向量
print(clf.support_vectors_)
# 属于支持向量的点的 index
print(clf.support_)
# 在每一个类中有多少个点属于支持向量
print(clf.n_support_)
# 预测一个新的点
print(clf.predict([[2, 0]]))
w = clf.coef_[0] # w 是一个二维数据,coef 就是 w = [w0,w1]
a = -w[0] / w[1] # 斜率
xx = np.linspace(-5, 5) # 从 -5 到 5 产生一些连续的值(随机的)
# .intercept[0] 获得 bias,即 b 的值,b / w[1] 是截距
yy = a * xx - (clf.intercept_[0]) / w[1] # 带入 x 的值,获得直线方程
# 画出和划分超平面平行且经过支持向量的两条线(斜率相同,截距不同)
b = clf.support_vectors_[0] # 取出第一个支持向量点
yy_down = a * xx + (b[1] - a * b[0])
b = clf.support_vectors_[-1] # 取出最后一个支持向量点
yy_up = a * xx + (b[1] - a * b[0])
# 查看相关的参数值
print("w: ", w)
print("a: ", a)
print("support_vectors_: ", clf.support_vectors_)
print("clf.coef_: ", clf.coef_)
# 在 scikit-learin 中,coef_ 保存了线性模型中划分超平面的参数向量。形式为(n_classes, n_features)。若 n_classes > 1,则为多分类问题,(1,n_features) 为二分类问题。
X = np.array([[2, 0], [1, 1], [2, 3]])
# 绘制划分超平面,边际平面和样本点
pl.plot(xx, yy, 'k-')
pl.plot(xx, yy_down, 'k--')
pl.plot(xx, yy_up, 'k--')
# 圈出支持向量
pl.scatter(clf.support_vectors_[:, 0], clf.support_vectors_[:, 1],
s=80, facecolors='none')
pl.scatter(X[:, 0], X[:, 1])
pl.axis('tight')
pl.show()
结果说明:
[[2, 0], [1, 1], [2, 3]]
SVC(kernel='linear')
[[1. 1.]
[2. 3.]]
[1 2]
[1 1]
[0]
w: [0.4 0.8]
a: -0.5
support_vectors_: [[1. 1.]
[2. 3.]]
clf.coef_: [[0.4 0.8]]
参考: