为什么随机森林比决策树更robust?

  统计/机器学习 监督式学习 模型验证    浏览次数:473        分享
0

随机森林是很多决策树组成的,那为什么比决策树更robust呢?就是因为树多?那么越多越robust吗?

 

Solomon   2019-04-10 11:39



   1个回答 
3

我的理解是:随机森林在训练每棵子树时,通过随机采样和随机抽特征的方式生成训练数据,避免生成太相似的树。差异性大的多课子树构成的随机森林,相当于增强了模型的多样性,也就导致其有较强的robust。所以关键点就是“随机”。


SofaSofa数据科学社区DS面试题库 DS面经

咸魚   2019-04-10 18:27

随机森林怎么避免生成太相似的树,有惩罚么 - 塔利班   2019-04-11 09:20
没有惩罚。样本抽样和特征抽样,不一样的样本和特征去训练子树 - 咸魚   2019-04-11 10:47
嗯,所以说总体上还是能生成N个结构不同的树,但是全靠随机 - 塔利班   2019-04-11 10:51
嗯,我的理解是这样的 - 咸魚   2019-04-11 10:56


  相关主题

随机森林如何调参?   3回答

Adaboost里的树有没有可能权重是负数?   1回答

决策树怎么做增量学习或者online学习?   1回答

决策树的深度和数据特征个数的关系   1回答

怎么理解RandomForest中的max_features?   1回答

随机森林警告:A column-vector y was passed when a 1d array was expected   1回答

Gradient tree boosting和random forest (随机森林) 有什么区别和联系   1回答

python sklean中的决策树是用的哪一种决策树算法?   2回答

怎么理解随机森林的oob error?   2回答

决策树剪枝有什么策略或者注意事项?   2回答

怎么得到randomforestregressor里每棵树的预测结果?   1回答

决策树算法ID3,C4.5和CART的特点、异同?   3回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!