当我们选择KNN近邻算法进行数据分析时,K值的选择会对我们的模型精确度有着很重要的影响。选择合适的K值很重要,以下就是我在用KNN近邻算法进行数据分析时用的K值判定方法,各位可以参照。
代码如下:
from sklearn.model_selection import train_test_split
from sklearn import datasets
from sklearn.neighbors import KNeighborsClassifier
from sklearn.model_selection import cross_val_score
import matplotlib.pyplot as plt
iris = datasets.load_iris()
iris_x = iris.data
iris_y = iris.target
k_range = range(1, 31)
score_range = []
for k in k_range:
knn = KNeighborsClassifier(n_neighbors=k)
score = cross_val_score(knn, iris_x, iris_y, cv=8, scoring='accuracy')
score_range.append(score.mean())
plt.plot(k_range, score_range)
plt.xlabel('K')
plt.ylabel('accuracy')
stt = "C:/Users/pc/Desktop/matplotlib/k值分析图.png"
plt.savefig(stt)
plot图像如下:
分析图像可以看到,当K值大于18左右时,准确率下降,显然,在确定最终k值时,将k值取值大于18是不明智的选择,而将k值取在5到18之间是比较合适的。