import numpy as np
from scipy.spatial.distance import pdist, squareform
一:高斯核函数
如果输入特征是一维标量,该函数的形状为钟形曲线,参数\sigma控制曲线的宽度(胖瘦)。
# 高斯核函数
def rbf(x, gamma = 20):
sq_dists = pdist(x, 'sqeuclidean')
mat_sq_dists = squareform(sq_dists)
return np.exp(-gamma*mat_sq_dists)
pdist,用于计算样本对之间的欧式距离;squareform将样本间距离(pdist函数得到的结果)用方阵表示出来。
x=np.array([[1,1,1],[2,2,2],[4,4,4]]) #三个一维向量:x1=[1,1,1] x2=[2,2,2],x3=[4,4,4]
print(pdist(x))
# d(x1,x2)=sqrt(3)=1.7 ,d(x1,x3)=sqrt(27),d(x2,x3)=sqrt(8)
# array([1.73205081, 5.19615242, 3.46410162])
print(squareform(pdist(x)))
# array([[0. , 1.73205081, 5.19615242], # d(x1,x1),d(x1,x2),d(x1,x3)
# [1.73205081, 0. , 3.46410162], # d(x2,x1),d(x2,x2),d(x2,x3)
# [5.19615242, 3.46410162, 0. ]]) # d(x3,x1),d(x3,x2),d(x3,x1)
[1.73205081 5.19615242 3.46410162]
[[0. 1.73205081 5.19615242]
[1.73205081 0. 3.46410162]
[5.19615242 3.46410162 0. ]]
二:sigmoid核函数
# sigmoid核函数 双曲正切函数
def sigmoid(x, coef = 0.25):
x = np.dot(x, x.T)
return np.tanh(coef*x+1)
三:线性核函数
# 线性核函数
def linear(x):
x = np.dot(x, x.T)
return x
四:多项式核
#多项式核函数
def _poly(x, y, p, c):
return (x.dot(y.T) + c) ** p