相比xgboost,GBDT有什么优势

  统计/机器学习 监督式学习    浏览次数: 686
0

如题,网上都说xgboost比GBDT有优势,那么相比xgboost,GBDT有什么优势?

谢谢!

 

holmes94   2018-04-21 18:02



   2个回答 
1

GBDT的全称是梯度提升决策树,核心思想就在于将损失函数的负梯度在当前模型的值作为回归问题提升树算法中的残差的近似值,而xgboost的思想可以说来源于gbdt等,不光用了一阶导数信息,还有二阶导数,以及在树的复杂度衡量、并行化等各方面做了改进和优化,而且基模型也不再局限于树模型,可以使用线性模型。

所以我个人觉得“相比xgboost,GBDT有什么优势?”并不是一个合理的问题,如果勉强给个答案,相比xgboost,gbdt可能没有什么优势,一己之见。

SofaSofa数据科学社区 DS面经 问答 实战

dzzxjl   2018-04-21 21:23

0

没有免费的午餐嘛,所以没有一个模型能够完全压倒另一个模型的


SofaSofa数据科学社区 DS面经 问答 实战

数据痴汉   2018-04-22 20:37



  相关主题

kNN算法有哪些缺点?   6回答

最小二乘法与最小二乘支持向量回归的优劣   4回答

随机森林(random forest)和支持向量机(SVM)各有什么优劣   1回答

决策树有哪些缺点?   2回答

K Means算法有哪些缺陷、劣势?   4回答

二阶优化算法比一阶的优化算法比有什么优缺点?   0回答

在使用PCA降维时,有哪些坑?   6回答

激活函数ReLU和Sigmoid的优劣对比   4回答

xgboost怎么调参?   8回答

到底什么时候用lightgbm什么时候用xgb   1回答

为什么lightgbm比xgb快?   2回答

xgboost展开到二阶导数有什么好处啊   1回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!