怎么理解platt scaling?

  统计/机器学习 监督式学习    浏览次数:625        分享
2

大家好,我对platt scaling不是很理解,大概知道是SVM里用得到概率输出的方法。

具体应该怎么理解platt scaling?

 

小老虎   2018-12-16 11:19



   2个回答 
13

platt's scaling本质上就是利用一个逻辑回归将SVM的输出值映射为概率。

因为SVM的输出值是样本和决策边界的距离而非概率,输出值大于0是正样本,输出值小于0是负样本。

platt's scaling就利用这个输出值作为样本的特征,再利用样本的标签,训练一个一维数据的逻辑回归。这个逻辑回归的最后输出的概率值就是platt's scaling后的预测概率。

假设第$i$个样本的特征为$X_i$,SVM的决策函数的输出结果为$f(X_i)$,那么platt's scaling之后预测这个样本为正的概率为

$$P(1|X_i)=\frac{1}{1+e^{af(X_i) + b}}$$

其中$a$和$b$是通过训练集训练得到的。

SofaSofa数据科学社区DS面试题库 DS面经

zl_pku   2019-01-09 09:52

6

从神经网络的角度来说,platt scaling相当于在最外面加一个sigmoid输出层

SofaSofa数据科学社区DS面试题库 DS面经

东布东   2019-01-16 09:38

这个解释很直白 - zhaijing   2019-01-29 11:02


  相关主题

欠采样后概率还原问题   2回答

kNN的k=1为什么训练误差为0?   4回答

MLR分片模型是什么模型?   0回答

线性可分是什么意思?   1回答

关于方差和偏差和噪声   1回答

k-NN的k取1会怎么样   4回答

KNN中K值的选择   5回答

为什么说knn是惰性算法   1回答

knn推导过程中的一个细节   2回答

为什么LR要用Sigmoid函数?   6回答

有序多分类问题   2回答

adaboost里的learning rate是什么意思?   1回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!