随机森林中增加树的数量对于偏差和方差的影响

  统计/机器学习 监督式学习    浏览次数:2578        分享
0

随机森林中增加树的数量对于偏差和方差的影响

 

GEASS   2018-09-01 16:03



   2个回答 
2

Random Forsest是由很多个数组成的,最终的结果可以看作是

$$M=\frac{M_1+M_2+\cdots+M_n}{n}$$

假设$M_i$是同分布的,那么$\mathbb{E}(M)$和$\mathbb{E}(M_i)$是相等的;而对于方差$\text{Var}(M)$应该就是只有$\text{Var}(M_i)$的$1/n$。$n$越大,方差越小,但是减小的幅度也随之变小。所以通常1000以内也就够了。

SofaSofa数据科学社区DS面试题库 DS面经

飞翔钉子   2018-09-02 11:53

thx! - GEASS   2018-09-02 18:44
1

偏差不变,方差变小

SofaSofa数据科学社区DS面试题库 DS面经

GuoLinhui   2018-09-01 22:06

谢谢,可以具体解释下吗 - GEASS   2018-09-02 10:39


  相关主题

Adaboost里的树有没有可能权重是负数?   1回答

决策树的深度和数据特征个数的关系   1回答

python sklean中的决策树是用的哪一种决策树算法?   2回答

决策树可以做多元分类吗?   1回答

gbdt为什么需要泰勒公式展开进行节点分裂计算   2回答

Gradient tree boosting和random forest (随机森林) 有什么区别和联系   1回答

决策树是如何得到量化的概率,不只是0或1的标签?   2回答

python里实现一个简单的决策树   1回答

随机森林的模型一般都很大么?   1回答

剪枝是什么意思   1回答

随机森林回归   1回答

关于knn算法中kd树的问题   1回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!