为什么我们必须对神经网络的输入进行归一化?
我知道有时,例如当输入值是非数字时,必须执行某种转换,但是当我们有数字输入时呢?为什么数字必须在某个区间内?
如果数据没有标准化会发生什么?
这里解释得很好。
如果输入变量是线性组合的,就像在 MLP [多层感知器] 中那样,那么至少在理论上几乎没有必要对输入进行标准化。原因是输入向量的任何重新缩放都可以通过更改相应的权重和偏差来有效地撤消,从而使您获得与以前完全相同的输出。然而,标准化输入可以加快训练速度并减少陷入局部最优的机会有多种实际原因。此外,使用标准化输入可以更方便地完成权重衰减和贝叶斯估计。