怎么理解RandomForest中的max_features?

  统计/机器学习 监督式学习    浏览次数:6179        分享
0

sklearn里的RandomForest有max_features这个参数,请问如何理解这个参数?是指每棵树的特征最大数吗?

 

烙神经   2019-05-05 01:46



   1个回答 
3

决策树每一次分裂,都需要找到某个“最佳”特征,使得模型在该特征的某个值上分裂之后得到的收益最大化。

如果不设置max features的话,那么每次分裂都会遍历每一个可行特征,并从中选择最佳的;如果设置这个参数为n,那么每次分裂前只会选择n个随机特征,并从其中选择最佳的。

这个特征有利于增加random forest中各个树之间的差异性,有助于降低整个random forest的variance。

SofaSofa数据科学社区DS面试题库 DS面经

kym1990   2019-05-06 09:46



  相关讨论

随机森林预测问题

lightgbm使用自定义损失函数后,二分类的预测结果不再是【0,1】区间

随机森林中增加树的数量对于偏差和方差的影响

决策树剪枝有什么策略或者注意事项?

Extra Tree算法

Gradient tree boosting和random forest (随机森林) 有什么区别和联系

决策树可以做多元分类吗?

决策树算法ID3,C4.5和CART的特点、异同?

关于knn算法中kd树的问题

剪枝是什么意思

  随便看看

huber loss是什么?什么时候用?

抛的硬币直到连续出现两次正面为止,平均要扔多少次

神经网络里为什么隐藏层越多越好?

PCA降维之前为什么要先标准化?

二元分类为什么不能用MSE做为损失函数?