Lasso的自由度是多大?

  统计/机器学习 回归分析    浏览次数:4251        分享
0

Lasso的自由度是多大?

在网上看到adobe的DS面试题。不是很懂,所以请教一下大家。

 

dsjobhunter   2018-10-10 10:14



   1个回答 
7

LASSO自由度是非零参数个数,或者应该说非零参数个数是LASSO自由度的无偏估计。论文在这里。摘要里有结论。

-----------

自由度是是经过算法处理后数据中独立变量的个数。LASSO的非零参数是还活着,还能变化的参数,其余参数都被限制为零。这些非零参数个数是自由度的一个估计。就像鱼缸养很多鱼,最后活下来鱼的数量就是鱼缸养鱼容量的一个估计。论文的贡献是证明这个估计是无偏的。

SofaSofa数据科学社区DS面试题库 DS面经

Zealing   2018-10-10 11:53

谢谢大佬!感觉有点复杂,我就姑且记住结论吧 - dsjobhunter   2018-10-10 12:46
共同学习,我也只看结论。 - Zealing   2018-10-10 13:08


  相关讨论

LASSO是无偏的还是有偏的?

Ridge回归的解析解是什么?

什么时候该用LASSO,什么时候该用Ridge?

L2-norm为什么会让模型变得更加简单?

坐标下降法求LASSO问题怎样执行

关于lasso和ridge的区别

惩罚系数不变,特征变大,是不是更容易被Lasso去除?

Lasso是对数值大的系数压缩大还是数值小的系数压缩大?

Ridge,Lasso,ElasticNet的目标函数分别是什么?

为什么LASSO可以做特征选择,而Ridge却不行?

  随便看看

求多个torch tensor的平均值

医学统计里的c-index或者c-statistic是什么意思?

pandas DataFrame中经常出现SettingWithCopyWarning

二元分类为什么不能用MSE做为损失函数?

凸优化中局部最优解就是全局最优解吗?