Stratified k-fold cross validation(分层交叉验证)

  统计/机器学习 模型验证    浏览次数:12208        分享
6

Stratified cross validation和一般cross validation有什么区别?

 

Alfred   2017-04-08 12:17



   1个回答 
7

对于常规的k-fold CV,每个fold都是从训练集随机抽出来。

对于stratified k-fold CV,每个fold都是按照类别的比例抽出来的。


比如这个分类任务一共有三个类别A、B、C,它们的比例是1:2:10。那么每个fold中的A、B、C的比例也必须是1:2:10。

stratified k-fold CV实现起来也很容易。先把A类别的数据随机分成k组,再把B类数据分成k组,然后C类分成k组,最后再把它们合并起来,就得到了k组满足1:2:10的数据了。

stratified cross validation是优于一般的cross validation的。因为test set能充分代表整体数据,此外CV出来的k个预测结果的方差也会变小,使得cv error更可靠。

对于非平衡分类,stratified CV的优点就更加明显了。如果二元分类中分类A只占有0.01%,分类B占有99.99%,当你使用常规的CV的时候,可能你的训练集里甚至都没有足够的A来训练,或者测试集里A的数量极少,严重影响了验证结果的可靠性。


SofaSofa数据科学社区DS面试题库 DS面经

红魔鲁尼   2017-04-13 11:20

学习了!还从没有用过stratified cv - bigbear   2017-04-14 23:24


  相关讨论

k-fold cross validation的k怎么选

回归问题中的stratified cross validation?

十折交叉验证

如何在保持查全率不变的情况下提高查准率?

测试集和验证集的区别?

K折交叉验证是否有意义?

如果我用交叉验证,还是否需要单独分出测试集?

精度-召回曲线的起点和终点是什么?

micro和macro F1 score分别是什么意思?

交叉验证是如何进行的?

  随便看看

python里清除已经定义过的变量

yolo v4和yolo v3的主要区别是什么?

Resnet-18, Resnet-50, Resnet-101这些模型里的数字是什么意思?

什么是K-Modes(K众数)聚类法?

神经网络中的dense和sparse是什么意思?