2009-01-24 169 views
4

我目前正在构建一个神经网络库。为了简单起见,我将它构造为一个对象图。我想知道是否有人能够量化基于阵列的方法的性能优势。我现在的工作非常适合构建接近任意复杂性的网络。支持常规(反向支持)网络以及经常性网络。我正在考虑让训练有素的网络“编译”成一些“更简单”的形式,例如数组。神经网络结构

我只是想看看有没有人有任何实际的建议或经验建立神经网络,部署到生产。以数组为基础而不是基于对象图的最终产品有什么好处?

P.S内存占用不如速度重要。

回答

2

这一切都取决于你使用的语言 - 我假设你使用的是C衍生物。

在我的实现中,我发现对象图方法远远优越。速度有一些折衷,但维护的便利性超过了对象查找调用。这一切都取决于你是否在寻找训练速度或解决速度......我假设你最担心的是训练速度?

如果需要的话,你总是可以微调优化一些对象调用问题。

考虑到你的子网络的次要动机,我认为以对象为基础更重要 - 它使得更容易取出部分工作。

1

这已经有一段时间了,但我记得速度通常只是神经网络训练中的一个问题。

3

人们开始在AI利用GPGPU技术,并具有矩阵形式的神经网络可以充分利用典型图形卡中的矩阵运算速度要快得多。

+0

那我也考虑过但我们目前集群没有任何的GPU。我计划在未来实现这一点,以说服人们,我们需要在我们的群集 – 2009-01-24 07:07:47

2

但是你实现它,你千万不要忘记:

Just make sure you don’t have it maximize instead of minimize.

http://xkcd.com/534/

+0

哈哈一些GPU。我今天早上看到了。我们是GAs的广泛用户:-) – 2009-01-24 07:06:42