#来查看一下sklearn中所有的模型评估指标
import sklearn.metrics
sorted(sklearn.metrics.SCORERS.keys())
-
回归
误差函数:平均绝对误差/相对误差(MAE)、平均绝对百分比误差(MAPE)、均方误差(MSE)、均方根(RMSE)、标准差(SD)、拟合优度(R2/R- Square) -
分类
误差函数:0-1、对数、指数、合页
其他度量:准确率(accuracy)、查准率/精准率(precision)、查全率/召回率(recall)、F1-score、PR曲线、ROC曲线、AUC指标 -
聚类(本文不做讨论)
兰德指数、互信息、轮廓指数
回归指标的定义和说明
这里的回归指回归问题和模型,如线性回归Linear Regression,决策树Decision Tree Regression,随机森林Random Forest Regression,深度学习RNN等等。
平均绝对误差(MAE)
mean absolute error
使用的是数据的偏差的绝对值,计算公式如下:
M A E = 1 n ∑ i = 1 n ∣ ( y i − y ^ i ) ∣ MAE=\frac{1}{n}\displaystyle \sum_{i=1}^n|(y_i-\hat y_i)| MAE=n1i=1∑n∣(yi−y^i)∣
其中 y i y_i yi为真实值, y ^ i \hat{y}_i y^i为回归预测值,n为回归的数据个数。值越小,性能performance越好
这里注意,绝对值的计算因为不是处处可导,不方便用来当求极值 m i n min min的目标。
平均绝对百分比误差(MAPE)
mean absolute percentage error
将MAE的绝对值转化为相对值,计算公式如下:
M A P E = 1 n ∑ i = 1 n ∣ y i − y ^ i y i ∣ MAPE=\frac{1}{n}\displaystyle \sum_{i=1}^n|\frac{y_i-\hat y_i}{y_i}| MAPE=n1i=1∑n∣yiyi−y^i∣
其中 y i y_i yi为真实值, y ^ i \hat{y}_i y^i为回归预测值,n为回归的数据个数。注意由于这里用了 y i y_i yi作为分母,所以当测量真实值有数据为0时,即存在分母为0的情况,该指标公式就不可用了。值越小,性能performance越好
均方误差(MSE)
mean squared error
使用的是数据的偏差的平方和,计算公式如下:
M S E = 1 n ∑ i = 1 n ( y i − y ^ i ) 2 MSE=\frac{1}{n}\displaystyle \sum_{i=1}^n (y_i-\hat y_i)^2 MSE=n1i=1∑n(yi−y^i)2
其中 y i y_i yi为真实值, y ^ i \hat{y}_i y^i为回归预测值,n为回归的数据个数。注意该公式也用于回归的损失函数,并且可导(MAE绝对值不是处处可导的),即最小化均方误差。值越小,性能performance越好
均方根误差(RMSE)
root mean squared error
使用的是数据的偏差的平方和再求根号,计算公式如下:
R M S E = 1 n ∑ i = 1 n ( y i − y ^ i ) 2 RMSE=\sqrt {\frac{1}{n}\displaystyle \sum_{i=1}^n (y_i-\hat y_i)^2} RMSE=n1i=1∑n(yi−y^i)2
其中 y i y_i yi为真实值, y ^ i \hat{y}_i y^i为回归预测值,n为回归的数据个数。其实是均方误差MSE开根号得到的,实质跟均方误差MSE是一样的。主要用于降低均方误差的数量级,防止均方误差MSE看起来很大。RMSE和MAE的数量级基本相同了,但RMSE会比MAE大一些,RMSE惩罚了预测误差大的数据点。关于用RMSE还是MAE,有比较多的讨论(Willmott et al., 2005, 2009)、(Chai, 2014),跟使用场景的数据分布等相关。当然求得的回归曲线RMSE值越小,反映求得曲线的最大误差也是较小的。所以RMSE值越小,性能performance越好
R方R Squared
因为MAE、MSE、RMSE的衡量不存在一个区间范围,所以定义了R方这个指标,计算公式如下:
R 2 = 1 − S S r e s i d u a l S S t o t a l = 1 − ∑ i = 1 n ( y i − y ^ i ) 2 ∑ i = 1 n ( y i − y ‾ i ) 2 R^2=1-\frac{SS_{residual}}{SS_{total}}=1-\frac{\sum_{i=1}^n(y_i-\hat y_i)^2}{\sum_{i=1}^n(y_i-\overline y_i)^2} R2=1−SStotalSSresidual=1−∑i=1n(yi−yi)2∑i=1n(yi−y^i)2
y ‾ = 1 n ∑ i = 1 n y i \overline y=\frac{1}{n}\displaystyle \sum_{i=1}^n y_i y=n1i=1∑nyi
其中 y i y_i yi为真实值, y ^ i \hat{y}_i y^i为回归预测值, y ‾ \overline y y 为真实值的平均值,n为回归的数据个数。 S S r e s i d u a l SS_{residual} SSresidual表示残差的平方和(residual sum of squares,即模型的预测误差的平方和), S S t o t a l SS_{total} SStotal表示预测值都为 y ‾ \overline y y 的残差的平方和(total sum of squares)。
取值范围 ( − ∞ , 1 ] (-\infty,1] (−∞,1]
R 2 = 1 R^2=1 R2=1表示预测模型在每一个测量数据 y i y_i yi上都预测完全正确,
R 2 = 0 R^2=0 R2=0表示等价于平均值预测法,
R 2 < 0 R^2<0 R2<0表示预测模型比平均值预测法还差。说明我们学习到的模型还不如基准模型。此时,很有可能我们的数据不存在任何线性关系。
值越大,性能performance越好
分类指标的定义和说明
分类误差函数
分类其他度量
对数损失不适用于样本不均衡时的分类评估指标
ROC-AUC可作为样本正负不均衡时的分类评估指标
如果我们想让少数情况被正确预测,就用ROC-AUC作为评估指标
F1- Score和PR曲线在正样本极少时适用于作为分类评估指标
F1- Score和PR曲线在FP比FN更重要时,适用于作为分类评估指标
混淆矩阵、准确率、精确率、召回率、F1-score
1.混淆矩阵
真正例(TP)
伪反例(FN)
伪正例(FP)
真反例(TN)
2. 精确率(Precision)与召回率(Recall)
准确率:(对不对)
(TP+TN)/(TP+TN+FN+FP)
精确率 -- 查的准不准
TP/(TP+FP)
召回率 -- 查的全不全
TP/(TP+FN)
F1-score
反映模型的稳健性
3.api
sklearn.metrics.classification_report(y_true, y_pred)
准确率(accuracy): T P + T N T P + T N + F P + F N \frac{TP+TN}{TP+TN+FP+FN} TP+TN+FP+FNTP+TN
错误率 (error rate): F P + F N T P + T N + F P + F N \frac{FP+FN}{TP+TN+FP+FN} TP+TN+FP+FNFP+FN
精确率(precision,查准率):预测结果为正例样本中真实为正例的比例(查的准不准) p r e c i s i o n = T P T P + F P precision=\frac{TP}{TP+FP} precision=TP+FPTP
召回率(recall,查全率):真实为正例的样本中预测结果为正例的比例(查的全不全) r e c a l l = T P T P + F N recall=\frac{TP}{TP+FN} recall=TP+FNTP
F1-score:反映了模型的稳健型
错误率和准确率是强相关的,大多情况下可单独关注准确率一个指标。它是我们最简单直观的度量方式,比如人脸识别100张图片,识别出99张,可以说准确率为99%。
但是,它有先天的劣势,对正负样本不平衡的问题,无法给出客观的评价。比如正确样本占比90%,我的预测模型可以直接预测所有样本为正,准确率即为90%,但显然是错误的。
1)精准率和召回率基础理论
- 调整阈值的大小,可以调节精准率和召回率的比重;
- 阈值:threshold,分类边界值,score > threshold 时分类为 1,score < threshold 时分类为 0;
- 阈值增大,精准率提高,召回率降低;阈值减小,精准率降低,召回率提高;
-
精准率和召回率是相互牵制,互相矛盾的两个变量,不能同时增高;
-
逻辑回归的决策边界不一定非是 θ T ⋅ x b = 0 \theta^T \cdot x_b=0 θT⋅xb=0,也可以是任意的值,可根据业务而定: θ T ⋅ x b = t h r e s h o l d \theta^T \cdot x_b=threshold θT⋅xb=threshold- ,大于 threshold 时分类为 1,小于 threshold 时分类为 0;
-
推广到其它算法,先计算出一个分数值 score ,再与 threshold 比较做分类判定;
2)举例说明精准率和召回率相互制约的关系(一)
-
计算结果 score > 0 时,分类结果为 ★;score < 0 时,分类结果为 ●;
-
★ 类型为所关注的事件;
-
情景1:threshold = 0
- 精准率:4 / 5 = 0.80;
- 召回率:4 / 6 = 0.67;
- 情景2:threshold > 0;
- 精准率:2 / 2 = 1.00;
- 召回率:2 / 6 = 0.33;
- 情景3:threshold < 0;
- 精准率:6 / 8 = 0.75;
- 召回率:6 / 6 = 1.00;
3)举例说明精准率和召回率相互制约的关系(二)
-
LogisticRegression() 类中的 predict() 方法中,默认阈值 threshold 为 0,再根据 decision_function() 方法计算的待预测样本的 score 值进行对比分类:score < 0 分类结果为 0,score > 0 分类结果为 1;
-
.decision_function(X_test):计算所有待预测样本的 score 值,以向量的数量类型返回结果;
此处的 score 值不是概率值,是另一种判断分类的方式中样本的得分,根据样本的得分对样本进行分类;
例子
import numpy as np
from sklearn import datasets
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression
digits = datasets.load_digits()
X = digits.data
y = digits.target.copy()
y[digits.target==9] = 1
y[digits.target!=9] = 0
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=666)
log_reg = LogisticRegression()
log_reg.fit(X_train, y_train)
阈值 threshold = 0
y_predict_1 = log_reg.predict(X_test)
from sklearn.metrics import confusion_matrix
confusion_matrix(y_test, y_predict_1)
# 混淆矩阵:array([[403, 2],
# [9, 36]], dtype=int64)
from sklearn.metrics import precision_score
print('precision_score',precision_score(y_test, y_predict_1))
# 精准率:0.9473684210526315
from sklearn.metrics import recall_score
print('recall_score',recall_score(y_test, y_predict_1))
# 召回率:0.8
阈值 threshold = 5
decision_score = log_reg.decision_function(X_test)
# 更改 decision_score ,经过向量变化得到新的预测结果 y_predict_2;
# decision_score > 5,增大阈值为 5;(也就是提高判断标准)
y_predict_2 = np.array(decision_score >= 5, dtype='int')
confusion_matrix(y_test, y_predict_2)
# 混淆矩阵:array([[404, 1],
# [ 21, 24]], dtype=int64)
print('precision_score',precision_score(y_test, y_predict_2))
# 精准率:0.96
print('recall_score',recall_score(y_test, y_predict_2))
# 召回率:0.5333333333333333
#更改阈值的思路:基于 decision_function() 方法,改变 score 值,重新设定阈值,不再经过 predict() 方法,而是经过向量变化得到新的分类结果;
阈值 threshold = -5
decision_score = log_reg.decision_function(X_test)
y_predict_3 = np.array(decision_score >= -5, dtype='int')
confusion_matrix(y_test, y_predict_3)
# 混淆矩阵:array([[390, 15],
# [5, 40]], dtype=int64)
print('precision_score',precision_score(y_test, y_predict_3))
# 精准率:0.7272727272727273
print('recall_score',recall_score(y_test, y_predict_3))
# 召回率:0.8888888888888888
- 分析:
- 精准率和召回率相互牵制,相互平衡的,一个升高,另一个就会降低;
- 阈值越大,精准率越高,召回率越低;阈值越小,精准率越低,召回率越高;
- 更改阈值:1)通过 LogisticRegression() 模块下的 decision_function() 方法得到预测得分;2)不使用 predict() 方法,而是重新设定阈值,通过向量转化,直接根据预测得分进行样本分类;
分类评估报告api
sklearn.metrics.classification_report(y_true, y_pred, *, labels=None, target_names=None, sample_weight=None, digits=2, output_dict=False, zero_division='warn')
- y_true:真实目标值
- y_pred:估计器预测目标值
- labels:指定类别对应的数字
- target_names:目标类别名称
- return:每个类别精确率与召回率
from sklearn.metrics import classification_report
y_true = [0, 1, 2, 2, 2]
y_pred = [0, 0, 2, 2, 1]
target_names = ['class 0', 'class 1', 'class 2']
print(classification_report(y_true, y_pred, target_names=target_names))
y_pred = [1, 1, 0]
y_true = [1, 1, 1]
print(classification_report(y_true, y_pred, labels=[1, 2, 3]))
精准率 - 召回率曲线(P - R 曲线)
-
对应分类算法,都可以调用其 decision_function() 方法,得到算法对每一个样本的决策的分数值;
-
LogisticRegression() 算法中,默认的决策边界阈值为 0,样本的分数值大于 0,该样本分类为 1;样本的分数值小于 0,该样本分类为 0。
-
思路:随着阈值 threshold 的变化,精准率和召回率跟着相应变化;
- 设置不同的 threshold 值:
decision_scores = log_reg.decision_function(X_test)
thresholds = np.arange(np.min(decision_scores), np.max(decision_scores), 0.1)
#0.1 是区间取值的步长;
1)编码实现 threshold - Precision、Recall 曲线和 P - R曲线
import numpy as np
import matplotlib.pyplot as plt
from sklearn import datasets
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import precision_score
from sklearn.metrics import recall_score
digits = datasets.load_digits()
X = digits.data
y = digits.target.copy()
y[digits.target==9] = 1
y[digits.target!=9] = 0
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=666)
log_reg = LogisticRegression()
log_reg.fit(X_train, y_train)
decision_scores = log_reg.decision_function(X_test)
precisions = []
recalls = []
thresholds = np.arange(np.min(decision_scores), np.max(decision_scores), 0.1)
for threshold in thresholds:
y_predict = np.array(decision_scores >= threshold, dtype='int')
precisions.append(precision_score(y_test, y_predict))
recalls.append(recall_score(y_test, y_predict))
threshold - Precision、Recall 曲线
plt.plot(thresholds, precisions)
plt.plot(thresholds, recalls)
plt.show()
P - R 曲线
plt.plot(precisions, recalls)
plt.show()
2)scikit-learn 中 precision_recall_curve() 方法
根据 y_test、y_predicts 直接求解 precisions、recalls、thresholds;
from sklearn.metrics import precision_recall_curve
digits = datasets.load_digits()
X = digits.data
y = digits.target.copy()
y[digits.target==9] = 1
y[digits.target!=9] = 0
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=666)
log_reg = LogisticRegression(max_iter=10000)#更改参数的迭代次数
log_reg.fit(X_train, y_train)
decision_scores = log_reg.decision_function(X_test)
precisions, recalls, thresholds = precision_recall_curve(y_test, decision_scores)
precisions.shape
# (140,)
recalls.shape
# (140,)
thresholds.shape
# (139,)
- 现象:thresholds 中的元素个数,比 precisions 和recalls 中的元素个数少 1 个;
- 原因:当 precision = 1、recall = 0 时,不存在 threshold;
threshold - Precision、Recall 曲线
plt.plot(thresholds, precisions[:-1])
plt.plot(thresholds, recalls[:-1])
plt.show()
P - R 曲线
plt.plot(precisions, recalls)
plt.show()
途中曲线开始急剧下降的点,可能就是精准率和召回率平衡位置的点;
3)分析
- 不同的模型对应的不同的 Precision - Recall 曲线:
- 外层曲线对应的模型更优;或者称与坐标轴一起包围的面积越大者越优。
- P - R 曲线也可以作为选择算法、模型、超参数的指标;但一般不适用此曲线,而是使用 ROC 曲线;
ROC曲线和AUC指标
roc曲线
通过TPR和FPR来进行图形绘制,然后绘制之后,形成一个指标auc
auc
越接近1,效果越好
越接近0,效果越差
越接近0.5,效果就是胡说
注意:
这个指标主要用于评价不平衡的二分类问题
api
sklearn.metrics.roc_auc_score(y_true, y_score)
y_true -- 要把正例转换为1,反例转换为0
ROC曲线的绘制
1.构建模型,把模型的概率值从大到小进行排序
2.从概率最大的点开始取值,一直进行TPR和FPR的计算,然后构建整体模型,得到结果
3.其实就是在求解积分(面积)
TPR与FPR
-
TPR = TP / (TP + FN)
- 所有真实类别为1的样本中,预测类别为1的比例
-
FPR = FP / (FP + TN)
- 所有真实类别为0的样本中,预测类别为1的比例
-
ROC曲线的横轴就是FPR,纵轴就是TPR,而ROC曲线向下覆盖的面积即为AUC值。当FPR、TPR相等时,表示的意义则是:对于不论真实类别是1还是0的样本,分类器预测为1的概率是相等的,此时AUC为0.5
比如,90%是正样本,10%是负样本,用准确率是有水分的,但是用TPR和FPR不一样。
TPR只关注90%正样本中有多少是被真正覆盖的,而与那10%毫无关系,同理,FPR只关注10%负样本中有多少是被错误覆盖的,也与那90%毫无关系,所以可以看出:如果我们从实际表现的各个结果角度出发,就可以避免样本不平衡的问题了,这也是为什么选用TPR和FPR作为ROC/AUC的指标的原因。
如何评价ROC好坏?
FPR表示模型虚报的响应程度,而TPR表示模型预测响应的覆盖程度。TPR越高,同时FPR越低(即ROC曲线越陡),那么模型的性能就越好。
所以如果A的ROC包裹B的ROC,则A学习器更好。
如果A,B有交叉,则不能断言,这时候引入了AUC值。
ROC曲线无视样本不均衡
当样本不均衡时,准确率是不准确的。PR曲线会明显改变形状,而ROC则不受影响。因为ROC相当于固定一个轴,即实际正类或者实际负类的评价。
AUC指标
- AUC的概率意义是随机取一对正负样本,正样本得分大于负样本的概率
- AUC的最小值为0.5,最大值为1,取值越高越好
- AUC=1,完美分类器,采用这个预测模型时,不管设定什么阈值都能得出完美预测。绝大多数预测的场合,不存在完美分类器。
- 0.5<AUC<1,优于随机猜测。这个分类器(模型)妥善设定阈值的话,能有预测价值。
最终AUC的范围在[0.5, 1]之间,并且越接近1越好
AUC计算API
sklearn.metrics.roc_auc_score(y_true, y_score, *, average='macro', sample_weight=None, max_fpr=None, multi_class='raise', labels=None)
from sklearn.metrics import roc_auc_score
sklearn.metrics.roc_auc_score(y_true, y_score)
- 计算ROC曲线面积,即AUC值
- y_true:每个样本的真实类别,必须为0(反例),1(正例)标记
- y_score:预测得分,可以是正类的估计概率、置信值或者分类器方法的返回值
- pos_label:int or str, 标签被认为是积极的,其他的被认为是消极的。
- sample_weight: 顾名思义,样本的权重,可选择的
返回值:一共三个,分别是fpr,tpr,thresholds
fpr:数组,随阈值上涨的假阳性率
tpr:数组,随阈值上涨的真正例率
thresholds:数组,对预测值排序后的score列表,作为阈值,排序从大到小
import numpy as np
from sklearn import metrics
y = np.array([1, 1, 2, 2])
scores = np.array([0.1, 0.4, 0.35, 0.8])
fpr, tpr, thresholds = metrics.roc_curve(y, scores, pos_label=2)
fpr
# array([0. , 0. , 0.5, 0.5, 1. ])
tpr
# array([0. , 0.5, 0.5, 1. , 1. ])
thresholds
# array([1.8 , 0.8 , 0.4 , 0.35, 0.1 ])
上述是基础实现,可以按点画图
thresholds为阈值,以FP为X轴,TP为Y轴,画ROC曲线如下图所示:
由上图围成的面积等于:0.75
调用roc_auc_score
import numpy as np
from sklearn.metrics import roc_auc_score
y_true = np.array([0, 0, 1, 1])
y_scores = np.array([0.1, 0.4, 0.35, 0.8])
roc_auc_score(y_true, y_scores)
#0.75
ROC曲线的绘制
关于ROC曲线的绘制过程,通过以下举例进行说明
假设有6次展示记录,有两次被点击了,得到一个展示序列(1:1, 2:0, 3:1, 4:0, 5:0, 6:0),前面的表示序号,后面的表示点击(1)或没有点击(0)。
然后在这6次展示的时候都通过model算出了点击的概率序列。
下面看三种情况。
1 曲线绘制
1.1 如果概率的序列是(1:0.9, 2:0.7, 3:0.8, 4:0.6, 5:0.5, 6:0.4)。
与原来的序列一起,得到序列(从概率从高到低排)
1 | 1 | 0 | 0 | 0 | 0 |
---|---|---|---|---|---|
0.9 | 0.8 | 0.7 | 0.6 | 0.5 | 0.4 |
绘制的步骤是:
1)把概率序列从高到低排序,得到顺序(1:0.9,3:0.8,2:0.7,4:0.6,5:0.5,6:0.4);
2)从概率最大开始取一个点作为正类,取到点1,计算得到TPR=0.5,FPR=0.0;
3)从概率最大开始,再取一个点作为正类,取到点3,计算得到TPR=1.0,FPR=0.0;
4)再从最大开始取一个点作为正类,取到点2,计算得到TPR=1.0,FPR=0.25;
5)以此类推,得到6对TPR和FPR。
然后把这6对数据组成6个点(0,0.5),(0,1.0),(0.25,1),(0.5,1),(0.75,1),(1.0,1.0)。
这6个点在二维坐标系中能绘出来。
看看图中,那个就是ROC曲线。
1.2 如果概率的序列是(1:0.9,2:0.8,3:0.7,4:0.6,5:0.5,6:0.4)
与原来的序列一起,得到序列(从概率从高到低排)
1 | 0 | 1 | 0 | 0 | 0 |
---|---|---|---|---|---|
0.9 | 0.8 | 0.7 | 0.6 | 0.5 | 0.4 |
绘制的步骤是:
6)把概率序列从高到低排序,得到顺序(1:0.9, 2:0.8, 3:0.7, 4:0.6, 5:0.5, 6:0.4);
7)从概率最大开始取一个点作为正类,取到点1,计算得到TPR=0.5,FPR=0.0;
8)从概率最大开始,再取一个点作为正类,取到点2,计算得到TPR=0.5,FPR=0.25;
9)再从最大开始取一个点作为正类,取到点3,计算得到TPR=1.0,FPR=0.25;
10)以此类推,得到6对TPR和FPR。
然后把这6对数据组成6个点(0,0.5),(0.25,0.5),(0.25,1),(0.5,1),(0.75,1),(1.0,1.0)。
这6个点在二维坐标系中能绘出来。
看看图中,那个就是ROC曲线。
1.3 如果概率的序列是(1:0.4,2:0.6,3:0.5,4:0.7,5:0.8,6:0.9)
与原来的序列一起,得到序列(从概率从高到低排)
0 | 0 | 0 | 0 | 1 | 1 |
---|---|---|---|---|---|
0.9 | 0.8 | 0.7 | 0.6 | 0.5 | 0.4 |
绘制的步骤是:
11)把概率序列从高到低排序,得到顺序(6:0.9,5:0.8,4:0.7,2:0.6,3:0.5,1:0.4);
12)从概率最大开始取一个点作为正类,取到点6,计算得到TPR=0.0,FPR=0.25;
13)从概率最大开始,再取一个点作为正类,取到点5,计算得到TPR=0.0,FPR=0.5;
14)再从最大开始取一个点作为正类,取到点4,计算得到TPR=0.0,FPR=0.75;
15)以此类推,得到6对TPR和FPR。
然后把这6对数据组成6个点(0.25,0.0),(0.5,0.0),(0.75,0.0),(1.0,0.0),(1.0,0.5),(1.0,1.0)。
这6个点在二维坐标系中能绘出来。
看看图中,那个就是ROC曲线。
2 意义解释
如上图的例子,总共6个点,2个正样本,4个负样本,取一个正样本和一个负样本的情况总共有8种。
上面的第一种情况,从上往下取,无论怎么取,正样本的概率总在负样本之上,所以分对的概率为1,AUC=1。再看那个ROC曲线,它的积分是什么?也是1,ROC曲线的积分与AUC相等。
上面第二种情况,如果取到了样本2和3,那就分错了,其他情况都分对了;所以分对的概率是0.875,AUC=0.875。再看那个ROC曲线,它的积分也是0.875,ROC曲线的积分与AUC相等。
上面的第三种情况,无论怎么取,都是分错的,所以分对的概率是0,AUC=0.0。再看ROC曲线,它的积分也是0.0,ROC曲线的积分与AUC相等。
很牛吧,其实AUC的意思是——Area Under roc Curve,就是ROC曲线的积分,也是ROC曲线下面的面积。
绘制ROC曲线的意义很明显,不断地把可能分错的情况扣除掉,从概率最高往下取的点,每有一个是负样本,就会导致分错排在它下面的所有正样本,所以要把它下面的正样本数扣除掉(1-TPR,剩下的正样本的比例)。总的ROC曲线绘制出来了,AUC就定了,分对的概率也能求出来了。
ROC 与 P - R 曲线的区别
P - R 曲线:应用于判定由极度有偏数据所训练的模型的优劣;
ROC 曲线:应用于比较两个模型的优劣;
ROC兼顾了正类和负类的分类能力,同时对类别不均衡问题处理很好。
P-R仅仅关注正类,如果在更关注正类的评价学习器时,选择P-R曲线。除此,大部分时候用ROC即可。