2012-04-18 83 views
2

初始结构(它们之间的神经元和连接)是如何选择的?我的书只是声明我们在开始训练网络之前就开始给出连接的随机权重。人工神经网络:选择初始神经元

我认为我们会像这样的训练过程中添加的神经元:

  1. 开始一个完全空的网络
  2. 我在训练中产生的第一个值将不存在
  3. 添加一个神经元与此值相对应,随机权重

回答

2

您所追求的是一种自组织神经网络。通常情况下,连接的组织方式是人为的模式,开发人员认为它将有足够的能力来执行计算需要。当然,您可以随机选择具有随机连接的节点,但这种网络的演变可能比标准的两层或三层网络需要更长的时间。

所以,是的,你是对的,因为在做自组织网络时你会使用类似的方法。跟踪两组遗传算法,一个用于结构,另一个用于权重(或者以一种迂回的方式将两者结合起来),并按照您的需求进化。

0

我不相信这个问题是关于自组织或遗传算法进化的人工神经网络。这听起来更像是一个最常见的ANN:感知器(单层或多层),在这种情况下,网络的结构:层数和层的大小,必须在开始时手动选择。初始化权重的简单初始经验法则是简单地在-1.0和1.0之间选取均匀的随机值。