1
我正试图训练一个稀疏模型,即一些模型参数在优化期间必须保持为零。Keras训练稀疏模型
在Keras中这可能为参数定义一个掩码,以便优化器不会更新被掩码的掩码吗?
不幸的是,冻结一层不会工作,因为我需要以更细粒度的方式掩盖参数。
我正试图训练一个稀疏模型,即一些模型参数在优化期间必须保持为零。Keras训练稀疏模型
在Keras中这可能为参数定义一个掩码,以便优化器不会更新被掩码的掩码吗?
不幸的是,冻结一层不会工作,因为我需要以更细粒度的方式掩盖参数。
您可以使用tf.where
在参数和tf.stop_gradient(parameters)
之间选择元素。