输入图层是否应包含偏置神经元？

Question

我想知道：在一个多层前馈神经网络中，输入层应该包含一个偏置神经元，还是只在隐藏层中有用？如果是这样，为什么？

谢谢
Tunnuz

Answer 1

号，输入层不需要偏置神经元的连接，因为它从偏置神经元接收到的任何激活将通过实际的输入可以完全覆盖。

例如，假设正试图解决经典XOR problem网络，采用这种架构（在神经元只标注1偏置）：

运行输入该网络（1 ，0），您只需简单地限制神经元X1 = 1和X2 = 0的激活。现在，如果X1或X2也收到来自偏差的输入，则该输入将被覆盖，从而使这种连接毫无意义。