均方根误差#
术语解释#
均方根误差(Root Mean Square Error, RMSE) 是回归任务(对连续值的预测)中评估模型优劣的常用指标之一。它是均方误差(MSE)的算术平方根。
RMSE 用于衡量模型预测值与真实值之间的偏差,其数学表达式:
$$ \text{RMSE}=\sqrt{\frac{1}{n}\sum\limits_{i=1}^{n}{{{({{y}^{(i)}}-{{{\hat{y}}}^{(i)}})}^{2}}}} $$其中 $n$ 为样本数量,$y^{(i)}$ 为真实值,$\hat{y}^{(i)}$ 为预测值。
RMSE 的取值范围为 $\text{RMSE} \in [0, +\infty)$,其值越小,表示预测越准确,模型效果越好。
出现动机#
由于 MSE 计算的是误差的平方,其单位是原始目标变量单位的平方(例如房价预测中,单位会变成“万元的平方”),这在直觉上难以理解。RMSE 通过取平方根,将误差的量纲还原到与原始数据一致的尺度,使评估结果更具直观意义。相关内容可以参见「2.4.1 常见回归评估指标」。
优点缺点#
-
优点:
-
量纲一致性:由于 RMSE 的单位与原始样本标签 $y$ 的单位相同,开发者可以更直观地感知预测值偏离真实值的平均物理程度。
-
反映误差大小:与 MAE(平均绝对误差)相比,RMSE 仍然保留了对较大误差的敏感性(源于 MSE 的平方项),能够体现出模型在处理极端样本时的表现。
-
数学性质良好:它继承了 MSE 处处可导的性质,虽然带了根号,但在优化过程中依然是常用的评估标准。
-
-
缺点:
-
对异常值(Outliers)敏感:虽然取了平方根,但由于在开根号之前误差已经被平方,这意味着个别极大的噪声点产生的误差会被显著放大,从而大幅拉高整个 RMSE 的值,导致评估结果受到噪声的干扰。
-
不能完全反映模型分布:单独的 RMSE 只能给出一个总体的平均误差水平,无法体现误差的分布规律(例如是普遍存在小偏差,还是仅在少数样本上存在巨额偏差)。因此在实际评估时,通常需要配合 MAE 等其他指标共同参考。
-
相关术语#
-
MSE
-
MAE