在Ruby中为XOR训练神经网络

Question

我正在试图训练一个前馈网络来执行Ruby库AI4R的XOR操作。但是，当我在训练之后评估XOR时，需要 。我没有得到正确的输出。有没有人在 之前使用过这个库，并学会了XOR操作。

我使用了两个输入神经元，一个隐藏层中的三个神经元和一个输出层，正如我之前看到的一个预先计算的 XOR前馈神经网络。

require "rubygems" 
require "ai4r" 

# Create the network with: 
# 2 inputs 
# 1 hidden layer with 3 neurons 
# 1 outputs 
net = Ai4r::NeuralNetwork::Backpropagation.new([2, 3, 1]) 

example = [[0,0],[0,1],[1,0],[1,1]] 
result = [[0],[1],[1],[0]] 

# Train the network 
400.times do |i| 
    j = i % result.length 
    puts net.train(example[j], result[j]) 
end 

# Use it: Evaluate data with the trained network 
puts "evaluate 0,0: #{net.eval([0,0])}" # => evaluate 0,0: 0.507531383375123 
puts "evaluate 0,1: #{net.eval([0,1])}" # => evaluate 0,1: 0.491957823618629 
puts "evaluate 1,0: #{net.eval([1,0])}" # => evaluate 1,0: 0.516413912471401 
puts "evaluate 1,1: #{net.eval([1,1])}" # => evaluate 1,1: 0.500197884691668 

特德

Answer 1

你没有受过训练它足够的迭代。如果将400.times更改为8000.times，则会更接近（更接近于20000.times）。

在20000.times，我得到

puts "evaluate 0,0: #{net.eval([0,0])}" # => evaluate 0,0: 0.030879848321403 
puts "evaluate 0,1: #{net.eval([0,1])}" # => evaluate 0,1: 0.97105714994505 
puts "evaluate 1,0: #{net.eval([1,0])}" # => evaluate 1,0: 0.965055940880282 
puts "evaluate 1,1: #{net.eval([1,1])}" # => evaluate 1,1: 0.0268317078331645 

还可以增加net.learning_rate（但是不要太多）。

Answer 2

如果你想考虑Neuroevolution，你可以检查neuroevo宝石。运行规范看到它在15次迭代（[2,2,1]前馈网络，XNES优化）适合XOR：

https://github.com/giuse/neuroevo/blob/master/spec/solver_spec.rb

全面披露：我是开发商（您好！）。
我刚刚开始发布我的代码，并且正在寻找反馈。