Lasso的自由度是多大?

  统计/机器学习 回归分析    浏览次数: 94
0

Lasso的自由度是多大?

在网上看到adobe的DS面试题。不是很懂,所以请教一下大家。

 

dsjobhunter   2018-10-10 10:14



   1个回答 
3

LASSO自由度是非零参数个数,或者应该说非零参数个数是LASSO自由度的无偏估计。论文在这里。摘要里有结论。

-----------

自由度是是经过算法处理后数据中独立变量的个数。LASSO的非零参数是还活着,还能变化的参数,其余参数都被限制为零。这些非零参数个数是自由度的一个估计。就像鱼缸养很多鱼,最后活下来鱼的数量就是鱼缸养鱼容量的一个估计。论文的贡献是证明这个估计是无偏的。


Zealing   2018-10-10 11:53

谢谢大佬!感觉有点复杂,我就姑且记住结论吧 - dsjobhunter   2018-10-10 12:46
共同学习,我也只看结论。 - Zealing   2018-10-10 13:08


  相关主题

LASSO是无偏的还是有偏的?   2回答

什么时候该用LASSO,什么时候该用Ridge?   2回答

L2-norm为什么会让模型变得更加简单?   3回答

关于lasso和ridge的区别   1回答

Ridge,Lasso,ElasticNet的目标函数分别是什么?   1回答

Lasso是对数值大的系数压缩大还是数值小的系数压缩大?   2回答

lasso path是什么意思?   1回答

为什么LASSO可以做特征选择,而Ridge却不行?   3回答

请问 L1 到底为什么具有稀疏性   4回答

XGBoost为什么可以通过叶子节点的权值w的L2模平方来控制树的复杂度?   1回答

正则项里的L1,L2是什么意思?   1回答

L0 norm 正则是什么意思?   1回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!