如何初始化Keras模型中的偏差？

Question

我想在Keras中建立一个合成模型，并且我需要给权重和偏差赋值。分配砝码很简单，我使用的是这里提供的说明：https://keras.io/initializations/。 但是，我找不到有关如何分配偏差的任何说明。有任何想法吗？

Answer 1

你可以在这里找到答案。 https://keras.io/layers/core/

权重：numpy的阵列的列表，以设定为初始权重。列表 应分别具有形状（input_dim，output_dim）和 （output_dim）的2个元素，分别用于权重和偏差。

当添加新的层，可以定义参数“权重”，它包含具有形状speicified初始瓦特和b列表。

model.add(Dense(50, input_dim= X_train.shape[1], weights = [np.zeros([692, 50]), np.zeros(50)]))

Answer 2

初始化小的正值，例如0.1

偏见由于我们使用RELU神经元，它也是很好的做法有轻微的正初始偏置初始化它们，以避免“死神经元”。

Answer 3

您也可以使用bias_initializer这样的：

model.add(Dense(64, 
       kernel_initializer='random_uniform', 
       bias_initializer='zeros') 

这是https://keras.io/initializers/