修正R方(adjusted R square)是什么?

  统计/机器学习 回归分析 模型验证    浏览次数: 1926
7

修正R方(adjusted R square)是什么?为什么我们有时候用修正R方,而不是直接用R方?

 

杨业勇   2017-05-12 21:19



   2个回答 
11

修正$R_{adj}^2$的公式是

$$R_{adj}^2=1-\frac{(n-1)(1-R^2)}{n-p-1},$$

其中$n$是样本数量,$p$是模型中变量的个数。

我们知道在其他变量不变的情况下,引入新的变量,总能提高模型的$R^2$。修正$R^2$就是相当于给变量的个数加惩罚项。

换句话说,如果两个模型,样本数一样,$R^2$一样,那么从修正$R^2$的角度看,使用变量个数少的那个模型更优。使用修正$R^2$也算一种奥卡姆剃刀的实例。


Nagozi   2017-05-15 09:21

感谢!百度前10个搜出来的结果都是错的,特地注册来感谢回答! - Robin峰   2017-09-14 20:00
3

R方可以用来评价模型的拟合程度。当我们在评价拟合程度的同时,也考虑到模型的复杂程度,那么就是修正R方。

原理上与AIC和BIC类似。


清风   2017-09-20 13:50



  相关主题

除了RMSE,评价回归模型有哪些常用的metric?   2回答

sklearn里LogisticRegressionCV中的参量Cs什么意思   1回答

如果我用交叉验证,还是否需要单独分出测试集?   1回答

交叉验证是如何进行的?   1回答

如何在保持查全率不变的情况下提高查准率?   1回答

Stratified k-fold cross validation(分层交叉验证)   1回答

k-fold cross validation的k怎么选   2回答

十折交叉验证   1回答

回归问题中的stratified cross validation?   2回答

micro和macro F1 score分别是什么意思?   2回答

python里怎么求多元分类的F1 score?   1回答

怎么理解分位数回归quantile regression的目标函数?   1回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!