支持向量机SVM详解——带有松弛变量的数学模型

上一节的例子是基于两个类别的数据是完全可分的情况下,没有异常点的数学模型,如果出现了异常点:在某一个类别包含另一个类别的数据,如果不放松要求的话,根本无法分割两类样本,这个时候我们必须放松限制。
在这里插入图片描述在这里插入图片描述ξ——松弛变量,C是对松弛变量的惩罚,C的值越大,松弛变量就越小,偏离原始的数学模型的位置越小;C越小,惩罚就越小。yi——是真实值,wTxi+b是预测值,我们希望二者乘积大于等于1,因为在这里有了一个松弛变量ξ,所以我们“放松了”对他的要求,这是我们带松弛变量的优化问题。在这里插入图片描述
w,b,ξ是之前的参数,而α,λ则是新加的拉格朗日算子,拉格朗日函数对原来的参数依次求导都等于0的时候也是求得最优解的时候。将结果代回拉格朗日函数:
在这里插入图片描述在这里插入图片描述
求带松弛变量的结果即为,求对偶形式后的最大值,并利用KKT对偶互补条件。

发布了40 篇原创文章 · 获赞 0 · 访问量 2097

猜你喜欢

转载自blog.csdn.net/DDWDDZY/article/details/105211865