加尼福尼亚房价数据集与KNN

需要的几个Python库

import matplotlib.pyplot as plt  
from sklearn import datasets
from sklearn.neighbors import KNeighborsRegressor
from sklearn.cross_validation import train_test_split
from sklearn.metrics import mean_squared_error
import numpy as np  

数据集内容：

这里data为数据集，target为目标，DESCR为简单的介绍，feature_names为列名。

利用train_test_split函数对训练和测试集进行划分

cali=datasets.california_housing.fetch_california_housing()
x=cali['data']
y=cali['target']
#x=pd.DataFrame(x)
#x.columns=cali['feature_names']
x_train,x_test,y_train,y_test=train_test_split(x,y,train_size=0.8)

这里是sklearn-train_test_split随机划分的介绍：

传送门： https://blog.csdn.net/cherdw/article/details/54881167

我就直接截图贴在这里了：

KNN在分类过程中近需要在训练集中寻找最近的前K个样本，然后给定K个最相似的样本，出现最多的目标标号被选为分类标号。在使用此聚类时，近邻数目（K）和估计相似度的度量需要给定。KNN在处理小数据集时非常好，但是并不适合处理大数据集。（摘自《数据科学导论》）

在这里，KNN就是根据样本集的各个特征的欧式距离进行划分。

在用KNN预测前，需要将源数据标准化

因为KNN是基于欧式距离的聚类，如果不同特征因为数值的差异造成不同特征的影响差距很大，所以需要进行数据标准化

from sklearn.preprocessing import StandardScaler
scaler=StandardScaler()

x_train_scaled=scaler.fit_transform(x_train)
x_test_scaled=scaler.transform(x_test)

regressor=KNeighborsRegressor()
regressor.fit(x_train_scaled,y_train)
y_pred=regressor.predict(x_test_scaled)
print ("MAE=",mean_squared_error(y_test,y_pred))

MAE为平均绝对误差，它的值越小表示预测结果越精确。

这里的结果是0.39。而没做标准化的结果是1.14。显然标准化后的结果更好。

结果截图：

这里还有一个类似的例子

KNN预测电影类型的传送门：https://blog.csdn.net/saltriver/article/details/52502253

参考资料：《数据科学导论》