矩阵分解中的迭代步骤是怎么推导的?

  统计/机器学习 线性代数 数值计算 推荐系统    浏览次数:3377        分享
0

把矩阵$V$分解成$WH$两个矩阵的乘积,黄色那部分的迭代公式是怎么得到的?


 

ccc225   2018-11-05 07:26



   1个回答 
3

原始论文是algorithms-for-non-negative-matrix-factorization

一般的gradient descent算法下,


其中$\eta_{a\mu}$是步长。

当每个变量步长不同时,


第6等式可变为第4等式


然后论文在数学上证明此方法收敛。

我没有仔细看证明,感觉上是变步长的gradient descent。还不知道(4)和(6)哪个收敛速度更快。

SofaSofa数据科学社区DS面试题库 DS面经

Zealing   2018-11-06 00:35



  相关讨论

交替最小二乘法(ALS)一定会收敛吗?

推荐系统里的FunkSVD是什么?

常说的低秩分解或者低秩逼近是什么意思?

高斯消元选部分主元为什么要选最大的?

python里怎么求矩阵的条件数?

余弦相似和内积的意义?

pointwise和pairwise推荐排序算法的区别是什么?

推荐系统算法里的cold start是什么意思?

怎么给推荐结果增加多样性和随机性?

推荐系统中常用的表示相似或者距离的方法有哪些?

  随便看看

逻辑回归的损失函数是怎么来的

python去掉中文文本中所有的标点符号

dropout rate一般设置多大?

特征归一化对K Means有影响吗?

人工神经网络有哪些常用的激活函数?