人工神经网络基准

Question

是否有任何基准可用于检查ANN的实施是否正确？

我想要一些输入和输出数据，以及如下信息：
- 具有3层的前馈神经网络的输出在90％的测试数据中应该是正确的。

我需要这些信息来确保这种ANN能够处理这样的问题。

Answer 1

你可以做的最好的事情是设计一个学习XOR函数的神经网络。这里是一个网站，显示样品运行：http://www.generation5.org/content/2001/xornet.asp

我做了一个家庭作业，其中我们的老师给了我们的头几个神经网络运行给定的权重......如果你设置你的神经网络具有相同的权重，那么你应该得到相同的结果（用直线反向传播）。

如果您的神经网络有1个输入层（2个输入神经元+ 1个常量），1个隐藏层（2个神经元+ 1个常量）和1个输出层，并且将所有权重初始化为0.6，你不断神经元总是返回-1，那么你应该得到同样的结果在你的第一个10次：

* Data File: xor.csv 
* Number of examples: 4 

Number of input units: 2 
Number of hidden units: 2 

Maximum Epochs: 10 
Learning Rate: 0.100000 
Error Margin: 0.100000 


==== Initial Weights ==== 

Input (3) --> Hidden (3) : 
     1  2 
0 0.600000 0.600000 
1 0.600000 0.600000 
2 0.600000 0.600000 

Hidden (3) --> Output: 
0 0.600000 
1 0.600000 
2 0.600000 


***** Epoch 1 ***** 
Maximum RMSE: 0.5435466682137927 
Average RMSE: 0.4999991292217466 
Percent Correct: 0% 

Input (3) --> Hidden (3) : 
     1  2 
0 0.599691 0.599691 
1 0.599987 0.599987 
2 0.599985 0.599985 

Hidden (3) --> Output: 
0 0.599864 
1 0.599712 
2 0.599712 


***** Epoch 2 ***** 
Maximum RMSE: 0.5435080531724404 
Average RMSE: 0.4999982558452263 
Percent Correct: 0% 

Input (3) --> Hidden (3) : 
     1  2 
0 0.599382 0.599382 
1 0.599973 0.599973 
2 0.599970 0.599970 

Hidden (3) --> Output: 
0 0.599726 
1 0.599425 
2 0.599425 


***** Epoch 3 ***** 
Maximum RMSE: 0.5434701135827593 
Average RMSE: 0.4999973799942081 
Percent Correct: 0% 

Input (3) --> Hidden (3) : 
     1  2 
0 0.599072 0.599072 
1 0.599960 0.599960 
2 0.599956 0.599956 

Hidden (3) --> Output: 
0 0.599587 
1 0.599139 
2 0.599139 


***** Epoch 4 ***** 
Maximum RMSE: 0.5434328258833577 
Average RMSE: 0.49999650178769495 
Percent Correct: 0% 

Input (3) --> Hidden (3) : 
     1  2 
0 0.598763 0.598763 
1 0.599948 0.599948 
2 0.599941 0.599941 

Hidden (3) --> Output: 
0 0.599446 
1 0.598854 
2 0.598854 


***** Epoch 5 ***** 
Maximum RMSE: 0.5433961673713259 
Average RMSE: 0.49999562134010495 
Percent Correct: 0% 

Input (3) --> Hidden (3) : 
     1  2 
0 0.598454 0.598454 
1 0.599936 0.599936 
2 0.599927 0.599927 

Hidden (3) --> Output: 
0 0.599304 
1 0.598570 
2 0.598570 


***** Epoch 6 ***** 
Maximum RMSE: 0.5433601161709642 
Average RMSE: 0.49999473876144657 
Percent Correct: 0% 

Input (3) --> Hidden (3) : 
     1  2 
0 0.598144 0.598144 
1 0.599924 0.599924 
2 0.599914 0.599914 

Hidden (3) --> Output: 
0 0.599161 
1 0.598287 
2 0.598287 


***** Epoch 7 ***** 
Maximum RMSE: 0.5433246512036478 
Average RMSE: 0.49999385415748615 
Percent Correct: 0% 

Input (3) --> Hidden (3) : 
     1  2 
0 0.597835 0.597835 
1 0.599912 0.599912 
2 0.599900 0.599900 

Hidden (3) --> Output: 
0 0.599017 
1 0.598005 
2 0.598005 


***** Epoch 8 ***** 
Maximum RMSE: 0.5432897521587884 
Average RMSE: 0.49999296762990975 
Percent Correct: 0% 

Input (3) --> Hidden (3) : 
     1  2 
0 0.597526 0.597526 
1 0.599901 0.599901 
2 0.599887 0.599887 

Hidden (3) --> Output: 
0 0.598872 
1 0.597723 
2 0.597723 


***** Epoch 9 ***** 
Maximum RMSE: 0.5432553994658493 
Average RMSE: 0.49999207927647754 
Percent Correct: 0% 

Input (3) --> Hidden (3) : 
     1  2 
0 0.597216 0.597216 
1 0.599889 0.599889 
2 0.599874 0.599874 

Hidden (3) --> Output: 
0 0.598726 
1 0.597443 
2 0.597443 


***** Epoch 10 ***** 
Maximum RMSE: 0.5432215742673802 
Average RMSE: 0.4999911891911738 
Percent Correct: 0% 

Input (3) --> Hidden (3) : 
     1  2 
0 0.596907 0.596907 
1 0.599879 0.599879 
2 0.599862 0.599862 

Hidden (3) --> Output: 
0 0.598579 
1 0.597163 
2 0.597163 

Input (3) --> Hidden (3) : 
     1  2 
0 0.596907 0.596907 
1 0.599879 0.599879 
2 0.599862 0.599862 

Hidden (3) --> Output: 
0 0.598579 
1 0.597163 
2 0.597163 

xor.csv包含以下数据：

0.000000,0.000000,0 
0.000000,1.000000,1 
1.000000,0.000000,1 
1.000000,1.000000,0 

你的神经网络应该像这（不计重量，黄色是不变的输入神经元）： alt text http://tcl.jtang.org/ffbp/ffbp-xor.png

Answer 2

您可以使用MNIST database of handwritten digits，具有60K培训和10K测试集，比较您的实现对各种其他机器学习算法，如K-NN，SVM，卷积网络（深学习）的错误率和当然不同的ANN配置。