RMSprop里的参数rho和decay有什么区别?

  统计/机器学习 数值计算 人工神经网络 TensorFlow    浏览次数:50        分享
0

RMSprop里参数rho和decay都是衰减的作用,它们有什么区别呢?

谢谢!!

 

桐桐酱   2019-10-08 13:26



   1个回答 
0

RMSprop在每一步会结合前几步的梯度,进行加权平均,rho是用来控制加强平均的。

decay是对learning rate进行衰减的。

两个参数的作用不同。前者控制迭代方向的改变快慢,后者控制迭代步长的大小。

SofaSofa数据科学社区DS面试题库 DS面经

strong.man   2019-10-12 14:17



  相关主题

tensorflow 训练的时候输出nan   1回答

一维数据怎么输入卷积网络。   2回答

tf.placeholder(tf.float32, shape=(None, 1024))中的None是什么意思   1回答

tensorflow里出现的strides是什么意思   1回答

tf.reduce_sum是什么函数   1回答

模仿tensorflow教程10-11的代码,报错,求解   1回答

如何通过docker安装TensorFlow   1回答

tf.truncated_normal和tf.random_normal有什么区别?   1回答

pycharm+anaconda的安装问题   1回答

tf.placeholder和tf.variable什么区别?   1回答

怎么print或者查看tf.tensor中的数值   1回答

Tensorflow多层神经网络训练最后输出的值都一样的,找不到是什么原因?   3回答



回答问题时需要注意什么?

我们谢绝在回答前讲“生动”的故事。

我们谢绝“这么简单,你自己想”、“书上有的,你认真看”这类的回答;如果你认为对方的提问方式或者内容不妥,你可以直接忽略该问题,不用进行任何作答,甚至可以对该问题投反对票。

我们谢绝答非所问。

我们谢绝自己不会、硬要回答。

我们感激每一个用户在编写答案时的努力与付出!