常用的回归（Regression）算法指标有平均绝对误差（Mean Absolute Error）、均方误差（Mean Squared Error)和均方根误差（Root Mean Squared Error)三种。

平均绝对误差（Mean Absolute Error)

平均绝对误差（Mean Absolute Error，简称MAE)从几何意义上来看，它表示预测值和实际值之间的平均距离。

它的公式如下：

平均绝对误差（Mean Absolute Error）这个评价指标比较直观好理解，但是由于公式里有绝对值，导致了函数不光滑，在某些点上不能求导。作为改进方案，我们可以把绝对值改成平均距离的平方，也就是均方误差（Mean Squared Error)。

均方误差（Mean Squared Error)

均方误差（Mean Squared Error，简称MSE)，从几何意义上来说，它可以看成预测值和实际值的平均距离的平方.

它的公式如下：

均方误差（Mean Squared Error）解决了平均绝对误差（Mean Absolute Error)不能求导的问题，但是它的大小和目标变量不在一个尺度上（量纲不一样）。为了解决这个问题，我们可以对均方误差（Mean Squared Error）的结果进行开方，于是得到均方根误差。

均方根误差（Root Mean Squared Error）

均方根误差（Root Mean Squared Error, 简称RMSE)是由均方误差（Mean Squared Error)开平方得到的结果， 它解决了均方误差（Mean Squared Error）与目标变量值量纲不一致的问题。

它的公式如下：