如何在前馈过程中处理填充0

假设我有一个不同大小的输入列表，例如一些是形状[10,9,5]，一些是[7,6,5]，我有为了填充0来将它们馈入到具有相同大小的张量流中，比如说[10,9,5]，我需要进行矩阵乘法并在正向处理期间添加偏差，这将在填充的0位置中引入数字。所以我必须自己创建一个蒙版矩阵来掩盖它们？或者是否有从tensorflow更简单的方法？谢谢！如何在前馈过程中处理填充0

顺便说一句，我不喂食序列，也不使用rnn。所以我不能使用动态rnn

来源

2017-10-14 Feng Gao

你最终的目标是什么？你是否担心零点会影响神经网络的性能？ – Maxim

NN用于做回归问题。因为在这些填充的0位置出现值，这肯定会影响性能。 –

我想你可能会使用attention mechanism将可变长度输入转换为某种固定长度张量，然后再将它们馈送到前馈网络中。

来源

2017-10-15 04:00:23

如何在前馈过程中处理填充0

回答

相关问题