Bagging是什么意思?

  统计/机器学习 开放问题    浏览次数:2346        分享
2

在机器学习算法中,经常看到Bagging,比如Tree Bagging。根据Bagging的字面直接翻译应该就是包裹的意思。

在机器学习的领域中,Bagging到底是什么意思呢?

 

想当小五哥   2017-05-13 13:04



   3个回答 
9

Bagging并不是Bag的动名词形式。Bagging是Bootstrap aggregating的缩写。中文意思是自助聚合。


Bagging是机器学习中一种常用的降低预测方差、提高稳定性的方法。

具体步骤是:

1、从训练样集中有放回的选取n个样本,然后把这n个样本作为训练集并训练模型。(bootstrap的过程)

2、把第1步重复m次,从而得到m个不同的预测模型。

3、利用这m个模型对测试集进行预测,将m个预测结果取平均值。(aggregating的过程)


常见的Tree Bagging就是将多个决策树的结果平均后的模型。


SofaSofa数据科学社区DS面试题库 DS面经

batmanX   2017-05-14 13:05

4

就是随机抽样 ---> 训练 --->平均或投票的方式得到最终结果


SofaSofa数据科学社区DS面试题库 DS面经

mosthated   2018-02-25 01:51

2


集成学习大致可以分为两类

  • 个体学习器间存在强依赖关系,必须串行生成序列化方法

代表:Boosting

  • 个体学习器间不存在强以来关系,可以并行化的方法

代表:Bagging和随机森林

步骤:

1.通过bootstrap方法又放回的抽取n个样本

2.将第一步骤进行m次,得到m个不同的训练集进行训练

3.对m个训练集进行求平均

从偏差-方差角度来看:Bagging关注的是降低方差




SofaSofa数据科学社区DS面试题库 DS面经

betten   2018-02-27 16:20



  相关主题

hyperparameter与parameter的区别?   3回答

few-shot learning是什么意思?   1回答

Generic/Heuristic Algorithm是什么意思?有什么区别?   1回答

机器学习中的投票算法是指什么?   2回答

非参模型是什么意思?有哪些模型算是非参的?   2回答

机器学习+计算机网络   2回答

ensemble模型时,bagging和stacking有什么区别?   2回答

人类的第一个机器学习算法是什么?   2回答

如何理解VC dimension?   2回答

建立一个预测模型的流程是什么   1回答

推荐开放数据库   5回答

如何理解PAC Learning?   1回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!