前馈神经网络如何选择隐藏层的数量

一般都是通过cross validation试出来的，没有什么绝对正确的准则。

不过有些是大家（包括Jeff Heaton）普遍的经验心得，值得参考下。

隐藏层数

一般是一层，因为大部分情况下都够用了。理论上说，一个有两个隐藏层的前馈神经网络可以表示任意的非线性决策边界。所以，可以说1到2个隐藏册。

隐藏层中的节点数

假设输入层的节点数是$N_x$，输出层的节点数$N_y$，那么每个隐藏层中的节点数$N_h$一般在$N_x$和$N_y$之间，有人推荐$\sqrt{N_xN_y}$，也有人推荐

$$N_h=\frac{N_s}{c(N_x+N_y)},$$

其中$N_s$是样本的数量，$c$是一个常数，通常选择个位数。当然以上都是根据经验而来的，具体怎么选，还需要针对具体问题进行分析然后做交叉验证。

对于分类问题，我一般都是用一个隐藏层，隐藏神经元的个数是从Nx一直试到Ny