怎么理解随机森林的oob error?有了oob error是不是就不用做交叉验证了?
2个回答
严格来说,OOB error不能完全取代交叉验证(看完下文就知道了)。
OOB(Out-of-bag) error也叫做包外误差,是随机森林中的一种度量预测误差的方式。
我们知道随机森林是由很多数组成的,而每棵树当中只用了部分样本来训练。
假设训练集中一共有N个样本x1,x2,⋯,xN,随机森林中有M棵树,T1,T2,⋯,TM。
对于一个样本xi,我们用那些没有使用xi训练的树组成的小随机森林来预测xi,其预测误差就是xi在这个随机森林上的OOB error,Erri。
整个随机森林的OOB误差就是所有训练样本的平均OOB误差,
OOB Error=N∑i=1ErriN
通常来说,OOB误差会比交叉验证的误差更大,因为估计OOB时,我们只用了随机森林中的部分树,没有使用完整的模型,限制了模型的发挥。但OOB省去了交叉验证中多次训练的步骤,所以比较方便,节约了时间。