wide-deep模型里的wide和deep分别是指什么意思?

  统计/机器学习 深度学习 人工神经网络    浏览次数:813        分享
2

最深度学习最近流行的wide-deep模型里的wide和deep分别是指什么意思?

这种设计的好处是什么?

 

ysz_2020   2022-04-17 12:44



   1个回答 
3

wide通常是指训练特征很多的线性模型或者广义线性模型,因为这里有很多人工经验和业务逻辑,所以通常有非常多的人工变量,所以看起来就是一个很宽的模型。

deep通常是指隐藏层很多的神经网络模型,神经网络可以自己从原始数据里逐层抽取信息,所以输入的时候特征不多,但是学习的层数很多,看起来像一个高塔,很deep。

wide & deep是指模型中有一部分是wide而另一部分是deep,如下图所示:



wide中可以人工添加很多特征以及one-hot特征,这一部分能够给模型提供直观的预测能力,比如常见的、易判断的模式。

deep这部分可以抽取更细致的稠密表达来加强模型的泛化能力。

简单来说,wide&deep learning是记忆与泛化的结合;人工业务知识、和智能化的结合。

SofaSofa数据科学社区DS面试题库 DS面经

淡淡的   2022-05-03 14:53



  相关讨论

深度学习模型的“蒸馏”是什么意思?

吴恩达深度学习第一课第四周作业L层结果收敛在0.64的问题

训练神经网络中经常提到的epoch是什么意思

神经网络中的dense和sparse是什么意思?

epoch和batch之间有什么关系?

反向传播和梯度算法概念???反向传播是指反向传播算法,还是反向传播算法中的一个过程?

请问深度学习算法中的梯度消失的原理是什么?如何能通俗理解

dropout rate一般设置多大?

神经网络里为什么隐藏层越多越好?

关于神经网络的性能

  随便看看

逻辑回归的损失函数是怎么来的

神经网络中的dense和sparse是什么意思?

pandas读取csv中指定的某些列

返回DataFrame或者array的行数

K-means怎么选K?