求问:Cart分类树为什么是基尼指数最小化准则

  统计/机器学习 监督式学习    浏览次数:781        分享
0

cart分类树用基尼指数最小选特征,基尼类似熵概念(值越大不确定性越高),那在选择最初点时,不就该选这种包含信息多的特征作为起始点吗? 可是书里写的是最小原则? 实在不解,求大神解读

 

jd910910   2018-06-26 11:59



   1个回答 
2

你这里指的gini指数一般叫做gini不纯。

gini impurity越小,说明这个分叉的结果越纯净,所以就是选小的。

参考问题Gini指数、Gini系数、Gini不纯是一回事吗?

SofaSofa数据科学社区DS面试题库 DS面经

abuu   2018-06-26 12:34

明白了 谢谢 - jd910910   2018-06-26 13:44


  相关主题

为什么决策树中用熵而不是基尼不纯度来作为划分依据?   2回答

决策树的熵是什么?怎么用熵来选分叉?   1回答

cross entropy是什么意思?   1回答

pytorch 的交叉熵损失总是报错,同样的结构改成MSELoss就没有问题   1回答

Gini指数、Gini系数、Gini不纯是一回事吗?   2回答

python里怎么计算一个数组的熵(entropy)?   1回答

softmax模型和最大熵模型是否是一回事?   1回答

最小描述长度和香农熵有什么关系?   0回答

决策树是如何得到量化的概率,不只是0或1的标签?   2回答

Extra Tree算法   1回答

剪枝是什么意思   1回答

Adaboost里的树有没有可能权重是负数?   1回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!