3
您能否告诉我为什么在评估中将num_steps设置为1? “https://github.com/tensorflow/tensorflow/blob/master/tensorflow/models/rnn/ptb/ptb_word_lm.py#L305”Tensorflow中的LSTM的Num_steps
我认为eval_config.num_steps被设置为与config.num_steps相同的数字。
您能否告诉我为什么在评估中将num_steps设置为1? “https://github.com/tensorflow/tensorflow/blob/master/tensorflow/models/rnn/ptb/ptb_word_lm.py#L305”Tensorflow中的LSTM的Num_steps
我认为eval_config.num_steps被设置为与config.num_steps相同的数字。
的那种语言模型预测给出根据已使用的句子/更精确序列,训练神经网络的词下一个单词(这就是为什么config.num_steps都远大于1大得多)。 default number是2,也就是说,给出前两个单词来预测即将到来的一个单词。
希望我是对的,这有助于。
这是错误的。该模型在训练和测试中逐字逐字地预测。两者都用于训练和测试,它使用之前时间步的隐藏状态,因此可能使用之前多个时间步的信息。 num_steps的默认编号不是2,因为默认配置是“small”(参见定义标志缺省值的文件的顶部),其num_steps为20. – ben
感谢您指出。我会尽快检查并更新。 – lerner