平均绝对误差(Mean Absolute Error, MAE)
也称L1范数损失,计算公式如下:
其中N为样本数,是真实值,是预测值。
MAE可以很好的刻画预测值与真实值的偏差。模型使用MAE作为损失函数则是对数据分布的中值进行拟合。
与之相似的是加权平均绝对误差(Weighted Mean Absolute Error, WMAE),计算公式如下:
其中是第i个样本的权重。
平均绝对百分误差(Mean Absolute Percentage Error, MAPE)
MAPE的计算公式如下:
MAPE在处无定义,且接近0时,MAPE将大于100%。MAPE对负值误差的惩罚大于正值误差。
均方根误差(Root Mean Squared Error, RMSE)
公式如下
RMSE代表的是预测值与真实值差值的样本标准差。RMSE对大误差样本有更大的惩罚,对离群点敏感,健壮性不如MAE。模型使用RMSE作为损失函数时,是对数据分布的平均值进行拟合。
均方根对数误差(Root Mean Squared Logarithmic Error, RMSLE)
公式如下:
RMSLE对预测值偏小的样本惩罚比预测偏大的惩罚更大。实际应用时,无法对其进行直接优化,因此需要先对预测目标进行对数转换,再按均方根误差来算,即
最后对预测值进行还原
参考:《美团机器学习实战》