2
我正在研究卷积神经网络,它要求内核权重的某些部分不可排除。 tf.nn.conv2d(x,W)将可训练变量W作为权重。我怎样才能让W的某些元素不可消除?Tensorflow:可训练可变掩模
我正在研究卷积神经网络,它要求内核权重的某些部分不可排除。 tf.nn.conv2d(x,W)将可训练变量W作为权重。我怎样才能让W的某些元素不可消除?Tensorflow:可训练可变掩模
也许你可以有你的训练的权重W1
,表明口罩M
在训练的变量和常量/ untrainable权重矩阵W2
,并使用
W = tf.multiply(W1, tf.cast(M, dtype=W1.dtype)) + tf.multiply(W2, tf.cast(tf.logical_not(M), dtype=W2.dtype))
你的意思是你要的重量的各个元素矩阵不可训练?或者你想让你的一些节点不可训练?我认为这不是辍学会解决的问题吗? – JCooke
我的意思是我想要一个权重矩阵的单个元素是不可训练的。 –