怎么理解RandomForest中的max_features?

  统计/机器学习 监督式学习    浏览次数:376        分享
0

sklearn里的RandomForest有max_features这个参数,请问如何理解这个参数?是指每棵树的特征最大数吗?

 

烙神经   2019-05-05 01:46



   1个回答 
2

决策树每一次分裂,都需要找到某个“最佳”特征,使得模型在该特征的某个值上分裂之后得到的收益最大化。

如果不设置max features的话,那么每次分裂都会遍历每一个可行特征,并从中选择最佳的;如果设置这个参数为n,那么每次分裂前只会选择n个随机特征,并从其中选择最佳的。

这个特征有利于增加random forest中各个树之间的差异性,有助于降低整个random forest的variance。

SofaSofa数据科学社区DS面试题库 DS面经

kym1990   2019-05-06 09:46



  相关主题

决策树算法ID3,C4.5和CART的特点、异同?   3回答

Gradient tree boosting和random forest (随机森林) 有什么区别和联系   1回答

Adaboost里的树有没有可能权重是负数?   1回答

决策树是如何得到量化的概率,不只是0或1的标签?   2回答

怎么理解随机森林的oob error?   2回答

关于knn算法中kd树的问题   1回答

决策回归树   2回答

决策树怎么做增量学习或者online学习?   1回答

如果采用非等权重的方法集成一个随机森林,会表现得更好嘛?   1回答

决策树剪枝有什么策略或者注意事项?   2回答

剪枝是什么意思   1回答

Extra Tree算法   1回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!