本文主要是记录学习《统计学习方法》的笔记总结,部分内容会直接摘录书中原文,特此申明
k 近邻法 (k-nearest-neighbor, k-NN) 是1968年由Cover和Hart 共同提出的,是一种基本分类与回归方法,本文只讨论分类问题里的k近邻法。k近邻法输入的是样本的特征向量,输出的是样本的类别。KNN假设给定一个训练集,里面的样本类别已经确定,对于新的样本,根据给定的计算距离准则,从训练集中找到与其最近的k个样本,利用这k个样本的类别由多数表决等方式进行预测。因此,k近邻法不具有显式的学习过程,其本质是利用训练集对特征向量空间进行了划分,将划分结果作为分类的“模型”。
K值的选择,距离度量及分类决策规则是K近邻法的三个基本要素。
1.1 k 近邻算法
算法 1.1 (k 近邻法)
输入:训练数据集
,其中
为样本的特征向量,
为样本的类别,
; 样本特征向量
输出:样本
所属的类别
(1) 根据给定的距离度量,在训练集
中找出与
最近邻的
个点,涵盖这
个点的邻域记作
(2) 在
中根据分类决策规则(如多数表态) 决定
的类别
其中 为示性函数,当 时, , 否则
1.2 K近邻模型
k近邻法使用的模型实际上对应于对特征空间的划分,模型由三个基本要素组成–距离度量,k值的选择和分类决策规则决定。
1.2.1 模型
K近邻法中,当训练集,距离度量,k取值和分类规则确定之后,对于新的样本,所属的类别唯一确定。特征空间中,对每个训练实例点 ,距离该点比其他点更近的点组成的区域,叫做单元(cell),每个训练实例点都有一个单元,所有实例点将特征空间划分为不相交的单元,最近邻法将实例 的类别 作为其单元中所有点的类标记
1.2.2 距离度量
特征空间里两个实例点的距离是其相似性的反映,k 近邻法的特征空间一般是n维的欧式空间
,一般使用欧式距离,也可以用其他距离。
假设特征空间
是
维实数向量空间
,
,
,
的
距离定义为:
其中 . 当 时,称为欧式距离,即
当 时,称为曼哈顿距离,即
当 时,他是各个方向坐标距离的最大值,即
1.2.3 k值的选择
k 值的选择会对k 近邻算法的结果产生重大影响
如果 k 选择较小的值,相当于用较小的邻域中的值来进行预测,模型“学习”的近似误差会减小,就是说只有那些同输入样本非常接近的训练样本才会对预测起作用,但是模型“学习”的估计误差会变大,因为范围小导致邻域内的点减少,每个点的作用都会比较明显,因此,模型对邻域内这些点会非常敏感,k越小模型越复杂。反之,也会有同样的问题,因此要选择一个适当的 K 来平衡近似误差和估计误差,一般采用交叉验证法来选取最优的 k。
1.2.4 分类决策规则
k 近邻的分类决策规则一般来说是多数表决,即由输入样本的 k 个近邻的多数类决定该样本的类别。
对于给定的样本
,其最近的 k 个样本构成集合
,如果涵盖
的区域类别为
,那么误分类率是
要是误分类概率最小,就要使得 最大,因此多数表决规则等价于经验风险最小化。
1.3 k 近邻法的实现:kd树
实现 k 近邻法,我们首先考虑的就是如何快速对数据进行搜索,找到 k 个近邻。首先想到的自然是遍历样本集,这种方法的计算复杂度至少为 ,数据量大的时候非常慢,因此需要用特殊的数据结构来存储训练数据。方法有多种,典型的就是 kd树。
1.3.1 构造 kd 树
kd 树是一种对 k 维空间中的样本点进行存储以便对其进行快速检索的树形数据结构。这里的 k 和 k 近邻的 k 含义不一样,kd 树的 k 是每个样本数据的维度 构造 kd 树相当于不停用垂直于坐标轴的超平面去切分样本空间,构成一系列的k维超矩形区域,直到每个样本都属于一个矩形区域停止。
算法 3.2 (构造平衡 kd 树)
输入: k 维空间数据集
,其中
输出: kd 树
(1) 构造根节点,根节点对应于包含
的 k 维空间的超矩形区域
选择
作为坐标轴,以
中所有样本的
坐标的中位数为切分点,将根结点对应的超矩形区域划分为两个子区域,切分由通过切分点并与坐标轴
垂直的超平面实现。
由根结点生成深度为 1 的左右子结点,左子结点对应坐标
小于分割点的子区域,右子结点对应坐标
大于分割点的子区域。
将落在切分超平面上的点保存在根结点上。
(2) 重复:对深度为
的结点,选择
为切分的坐标轴,l = j (mod k) +1,以该结点的区域中所有实例的
坐标的中位数为切分点,将该结点对应的超矩形区域且分为两个子区域。
由该节点生成深度为
的左右子结点:左子结点对应坐标
小于切分点的子区域,右子结点对应坐标
大于切分点的子区域。
将落在切分超平面上的样本保存在该结点。
(3) 直到两个子区域内有样本点存在时停止,从而形成 kd 树的区域划分。
1.3.2 搜索 kd 树
接下来介绍如何利用 kd 树进行 k 近邻搜索。
算法 3.3 (用 kd 树的最近邻搜索)
输入:已构造的 kd 树,目标点
输出:
的最近邻
(1) 在 kd 树中找出包含目标点 x 的叶结点:从根结点出发,递归地向下访问 kd 树,若目标点 x 当前维的坐标小于切分点的坐标,则移动到左子结点,否则移动到右子结点,直到子结点为叶子结点为止。
(2) 以此叶子结点为“当前最近点”
(3) 递归地向上回退,在每个结点进行一下操作:
(a) 如果改点保存的样本点比当前最近点距离目标点更近,则以该点为“当前最近点”。
(b) 当前最近点一定存在于该结点一个子结点对应的区域,检查该子结点的父节点的另一个子结点对应的区域是否有更近的点,具体地,检查另一个子结点对应的区域是否以目标点为球心,以目标点与“当前最近点”间的距离为半径的超球体相交。
如果相交,可能在另一个子结点对应的区域内存在距目标点更近的点,移动到另一个子结点,接着,递归地进行最近邻搜索。
如果不相交,向上回退。
(4) 当回退到根结点时,搜索结束,最后的“当前最近点”即为 x 的最近邻点。
如果样本点是随机分布的,那 kd 树的平均搜索计算复杂度为 , 是训练样本数