关于损失函数h(x), J(x), cost的概念问题

  统计/机器学习 监督式学习 损失函数    浏览次数: 112
0

刚开始学机器学习,正在coursera上学吴恩达老师的课,遇到了一点小问题

因为本身大学的课程就很多,再加上coursera上有截止期限制,没有什么巩固时间,感觉学的不是很扎实,学到第三周逻辑回归之后再加上之前学的彻底懵了,现在忽然回首发现自己hθ(x),J(θ),cost(hθ(x)-y)这几个函数什么意思都混了,算法的过程也乱成一锅粥,翻回去看了看讲义,自己总结了一下,希望大神帮忙看一下我说的对不对,谢谢各位老师!:

首先hθ(x)是假设有一个θ向量和x有一定的关系能预测结果y的函数,θ如何的到呢,就要构造一个cost函数来计算每一次预测值h和实际值y的偏差,然后将很多的偏差利用J函数求出平均来并且最小化这个J,此时的θ就可以补全最开始的预测函数h

 

shawnw   2018-11-03 20:53



   1个回答 
1

你说的是对的

$h_\theta$是模型,$\theta$是模型的参数

$h_\theta(x)$是模型在样本$x$上的预测值

$h_\theta(x)-y$是预测值和真实值的差

$J_\theta$可以表示模型参数为$\theta$时的损失函数,你的目标是找到最优的$\theta$让$J(\theta)$越小越好

在回归时$J_\theta$也可以表示为

$$J_\theta=\sum_{(x, y)\in S}(h_\theta (x) - y)^2=\sum_{(x,y)\in S}\text{Cost}(h_\theta (x), y)$$

SofaSofa数据科学社区 DS面经 问答 实战

飞翔钉子   2018-11-04 16:30

谢谢老师!这样系统的总结出来就清楚多了! - shawnw   2018-11-04 16:42
哈哈,不客气,我不是老师,我也是学生,互相学习,共同进步呐 - 飞翔钉子   2018-11-05 09:46


  相关主题

logloss的取值范围是多少?一般好的分类器能达到多少?   5回答

cross entropy是什么意思?   1回答

如何理解GBDT里面“损失函数的负梯度在当前模型的值,可以作为残差的估计”?   1回答

怎么理解surrogate loss function代理损失函数?   2回答

Hamming Loss汉明损失的计算公式是什么?   1回答

二元分类为什么不能用MSE做为损失函数?   6回答

python求logloss   1回答

focal loss是什么?   0回答

hinge loss的公式是什么?   1回答

Gini指数、Gini系数、Gini不纯是一回事吗?   2回答

LR中若标签为+1和-1,损失函数如何推导,求大佬解答   3回答

用SGD计算逻辑回归时的迭代公式是什么?   2回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!