我观看了一些关于回归算法的视频,包括线性回归、多项式回归、决策树和随机森林。但在解释R平方和调整后的R平方时,尤其是关于增加更多变量如何影响模型的部分,我不太理解。
我查阅了各种在线资源,试图找到这两个指标的最简单解释,以及它们如何帮助我们决定如何使模型更加稳健。
回答:
这并不是一个关于pandas或Python的问题,而更像是一个统计学问题。不管怎样,这里有一个简短的解释。
R平方指的是特定模型的拟合优度,不考虑独立变量的数量。而调整后的R平方则考虑了独立变量的数量。
所以,如果你有一个回归方程,例如
y = mx + nx1 + ox2 + b
R平方会告诉你这个方程描述数据的效果如何。如果你增加更多的独立变量(p, q, r, s …),R平方的值会提高,因为你本质上是在更具体地定义你的样本数据。(小心,这可能会导致过拟合——也就是说,你可以完美地描述训练数据,但无法正确预测新数据)。使用调整后的R平方指标会考虑你增加了更多的独立变量,并且会因为你增加了不适合样本数据的变量而“惩罚”结果。这是一种测试变量的好方法,可以通过一次增加一个变量并检查调整后的R平方何时开始恶化,或者从所有变量开始并一次移除一个变量,直到调整后的R平方不再改善。
这里有一个关于这两个指标的统计描述的解释。