神经网络[ocr]

Question

我来寻找我正在写的程序的一般提示。

目标是： 使用神经网络程序识别3个字母[D，O，M]（或者如果我输入除3之外的任何内容则显示“什么都不识别”）。

这是我到目前为止有：

一类为我的单神经元

public class neuron 
{ 
    double[] weights; 
    public neuron() 
    { 
     weights = null; 
    } 
    public neuron(int size) 
    { 
     weights = new double[size + 1]; 
     Random r = new Random(); 
     for (int i = 0; i <= size; i++) 
     { 
      weights[i] = r.NextDouble()/5 - 0.1; 
     } 
    } 
    public double output(double[] wej) 
    { 
     double s = 0.0; 
     for (int i = 0; i < weights.Length; i++) s += weights[i] * wej[i]; 
     s = 1/(1 + Math.Exp(s)); 
     return s; 
    } 
} 

一种用于层类：

public class layer 
{ 
    neuron[] tab; 
    public layer() 
    { 
     tab = null; 
    } 
    public layer(int numNeurons, int numInputs) 
    { 
     tab = new neuron[numNeurons]; 
     for (int i = 0; i < numNeurons; i++) 
     { 
      tab[i] = new neuron(numInputs); 
     } 
    } 
    public double[] compute(double[] wejscia) 
    { 
     double[] output = new double[tab.Length + 1]; 
     output[0] = 1; 
     for (int i = 1; i <= tab.Length; i++) 
     { 
      output[i] = tab[i - 1].output(wejscia); 
     } 
     return output; 
    } 
} 

最后一类的网络

public class network 
{ 
    layer[] layers = null; 
    public network(int numLayers, int numInputs, int[] npl) 
    { 
     layers = new layer[numLayers]; 
     for (int i = 0; i < numLayers; i++) 
     { 
      layers[i] = new layer(npl[i], (i == 0) ? numInputs : (npl[i - 1])); 
     } 

    } 
    double[] compute(double[] inputs) 
    { 
     double[] output = layers[0].compute(inputs); 
     for (int i = 1; i < layers.Length; i++) 
     { 
      output = layers[i].compute(output); 

     } 
     return output; 
    } 
} 

现在为algorythm我选择了：

我有一个图片框，大小200x200，您可以在其中绘制一个字母（或从jpg文件中读取一个字母）。

我然后将其转换为我的第一个阵列（让整个画面）和2一（切周围的非相关背景），像这样：

Bitmap bmp2 = new Bitmap(this.pictureBox1.Image); 
     int[,] binaryfrom = new int[bmp2.Width, bmp2.Height]; 

     int minrow=0, maxrow=0, mincol=0, maxcol=0; 
     for (int i = 0; i < bmp2.Height; i++) 
     { 
      for (int j = 0; j < bmp2.Width; j++) 
      { 
       if (bmp2.GetPixel(j, i).R == 0) 
       { 
        binaryfrom[i, j] = 1; 
        if (minrow == 0) minrow = i; 
        if (maxrow < i) maxrow = i; 
        if (mincol == 0) mincol = j; 
        else if (mincol > j) mincol = j; 
        if (maxcol < j) maxcol = j; 
       } 
       else 
       { 
        binaryfrom[i, j] = 0; 
       } 
      } 
     } 


     int[,] boundaries = new int[binaryfrom.GetLength(0)-minrow-(binaryfrom.GetLength(0)-(maxrow+1)),binaryfrom.GetLength(1)-mincol-(binaryfrom.GetLength(1)-(maxcol+1))]; 

     for(int i = 0; i < boundaries.GetLength(0); i++) 
     { 
      for(int j = 0; j < boundaries.GetLength(1); j++) 
      { 
       boundaries[i, j] = binaryfrom[i + minrow, j + mincol]; 

      } 
     } 

并将其转换为12X8像我的最后一个数组所以（我知道我可以这样缩短公平一点，但希望在不同循环的每一步，所以我可以看到哪里出了问题更容易[如果有的话确实]）：

int[,] finalnet = new int[12, 8]; 

     int k = 1; 
     int l = 1; 

     for (int i = 0; i < finalnet.GetLength(0); i++) 
     { 
      for (int j = 0; j < finalnet.GetLength(1); j++) 
      { 
       finalnet[i, j] = 0; 
      } 
     } 

     while (k <= finalnet.GetLength(0)) 
      { 
       while (l <= finalnet.GetLength(1)) 
       { 
        for (int i = (int)(boundaries.GetLength(0)/finalnet.GetLength(0)) * (k - 1); i < (int)(boundaries.GetLength(0)/finalnet.GetLength(0)) * k; i++) 
        { 
         for (int j = (int)(boundaries.GetLength(1)/finalnet.GetLength(1)) * (l - 1); j < (int)(boundaries.GetLength(1)/finalnet.GetLength(1)) * l; j++) 
         { 
          if (boundaries[i, j] == 1) finalnet[k-1, l-1] = 1; 
         } 
        } 
        l++; 
       } 
       l = 1; 
       k++; 
      } 
     int a = boundaries.GetLength(0); 
     int b = finalnet.GetLength(1); 
     if((a%b) != 0){ 

      k = 1; 

      while (k <= finalnet.GetLength(1)) 
      { 
       for (int i = (int)(boundaries.GetLength(0)/finalnet.GetLength(0)) * finalnet.GetLength(0); i < boundaries.GetLength(0); i++) 
       { 
        for (int j = (int)(boundaries.GetLength(1)/finalnet.GetLength(1)) * (k - 1); j < (int)(boundaries.GetLength(1)/finalnet.GetLength(1)) * k; j++) 
        { 
         if (boundaries[i, j] == 1) finalnet[finalnet.GetLength(0) - 1, k - 1] = 1; 
        } 

       } 
       k++; 
      } 
     } 

     if (boundaries.GetLength(1) % finalnet.GetLength(1) != 0) 
     { 
      k = 1; 

      while (k <= finalnet.GetLength(0)) 
      { 
       for (int i = (int)(boundaries.GetLength(0)/finalnet.GetLength(0)) * (k - 1); i < (int)(boundaries.GetLength(0)/finalnet.GetLength(0)) * k; i++) 
       { 
        for (int j = (int)(boundaries.GetLength(1)/finalnet.GetLength(1)) * finalnet.GetLength(1); j < boundaries.GetLength(1); j++) 
        { 
         if (boundaries[i, j] == 1) finalnet[k - 1, finalnet.GetLength(1) - 1] = 1; 
        } 
       } 
       k++; 
      } 

      for (int i = (int)(boundaries.GetLength(0)/finalnet.GetLength(0)) * finalnet.GetLength(0); i < boundaries.GetLength(0); i++) 
      { 
       for (int j = (int)(boundaries.GetLength(1)/finalnet.GetLength(1)) * finalnet.GetLength(1); j < boundaries.GetLength(1); j++) 
       { 
        if (boundaries[i, j] == 1) finalnet[finalnet.GetLength(0) - 1, finalnet.GetLength(1) - 1] = 1; 
       } 
      } 
     } 

结果是12X8（我可以在代码中更改它以从一些窗体控件中获取它）0和1的数组，其中1构成粗糙的shap e你画的一封信。

现在我的问题是： 这是一个正确的algorythm？ 是我的功能

1/(1+Math.Exp(x)) 

好一个在这里使用？ 什么应该是拓扑结构？ 2或3层，如果3，隐藏层中有多少个神经元？我有96个输入（finalnet数组的每个字段），所以我应该在第一层还需要96个神经元？我应该在最后一层还是4层有3个神经元（考虑到“不承认”的情况），还是没有必要？

谢谢你的帮助。

编辑：哦，我忘了补充，我要训练我的网络使用Backpropagation algorythm。

Answer 1

后来我创建了一个neural net to recognize digits 0-9（python，抱歉），所以根据我的（短）经验，3层都可以，96/50/3拓扑可能会很好。至于输出层，这是您的选择;如果输入图像不是D，O或M，或者使用第四个输出神经元指示该字母未被识别，则可以反向传播全0。我认为第一种选择是最好的选择，因为它更简单（缩短培训时间，减少调试网络的问题......），您只需要应用一个阈值，将图像归类为“不被识别”。
我还使用了S形的激活功能，我没有尝试别人，但它的工作:)

Answer 2

1. 您可能需要4层至少使用反向传播方法获得准确的结果。 1个输入，2个中间层和一个输出层。 12 * 8矩阵太小（并且最终会导致数据丢失，从而导致完全失败） - 尝试一些16 * 16的东西。如果您想缩小大小，则必须剥离进一步的黑色像素的外层。

2. 想想用你的参考字符训练网络。

3. 请记住，您必须将输出再次反馈回输入层，并重复多次。