CNTK - 模型的不完整培训

Question

使用CNTK python API我已经训练了一个三层前馈网络来玩一个简单的基于网格的棋盘游戏。如果我使用小板（6 x 6）网格，则模型会成功训练。该模型在100场比赛中以100％的成功进行比赛。但是，如果我将棋盘大小增加到21 x 21，训练似乎会在100场比赛中以90％的成绩饱和。

增加训练时间或改变训练参数似乎不会提高模型的性能。

• 我错过了什么？
• CNTK是否支持使用“dropouts”？
• 有其他的技术来提高训练

Answer 1

是辍学的支持。目前，文件位于：

https://cntk.ai/pythondocs/cntk.ops.html?highlight=dropout#cntk.ops.dropout

什么样的激活功能，您使用的？如果您正在使用Sigmoids，请尝试ReLUs。如果使用ReLU，则可能由于大的梯度流动而在培训期间死亡。尝试使用Leaky ReLU或Param ReLU。所有这些都由该工具包支持。