使用稀疏数据的特征缩放/规范化

Question

我在训练具有稀疏输入数据的神经网络来解决监督回归问题时遇到了问题。当我对输入数据进行平均归一化（减去平均值然后除标准偏差）时，我得到了很多NaN值。我想知道是否有人有处理这类问题的经验。缩放稀疏输入数据的正确方法是什么？

感谢 乔

Answer 1

听起来像是你的数据是如此稀少，标准偏差是偶尔为零。

试验的是，如果是这样，不要被它除以你的输入（STDEV正常化是不是在这种情况下，有必要反正）。