2017-04-07 76 views
1

假设我们有训练的神经网络....神经网络(反向传播)

我的问题是将相同的神经网络产生的数据回来,如果我们应用什么以前是输出在目前的输入?

我正在研究MNIST数据集,并想知道如果我们使用反向传播算法从输出端训练我们的网络(使用最终输出作为来自该端的输入)将会发生什么。

这可能是一个很普通,但我仍然需要一些帮助来自社会

我的想法说,它可以取回数据(或近似原始数据集)... 可以证明是合理的吗?

+0

'''2 + 3 = 5'''。 '''5 = 0 + 5; 1 + 4; 2 + 3'''。对于一些数学背景检查双射函数和鸽子的原理。对于一些阅读关于做不同但类似的东西寻找一些称为*深神经网络很容易被愚弄*的论文。 – sascha

+0

@ sascha如果存在给定函数的逆函数会怎么样... – Aditya

+0

检查NN架构的内部工作原理并决定自己。由于这些是多层次的,所以除了理论上的情况之外,双射性质都会丢失。 – sascha

回答

1

据我所知。它不能。特别是因为activation functions(主要)是非线性的。

神经网络是一个黑盒子(见this answer)。其次,采取f(x) = x^2。如果你想从f(n)计算n,那么有两种可能的解决方案;对于神经网络来说也是一样的,可以有多种解决方案,所以不可能将它们全部逆转。但重点是:仅仅因为你知道函数的反函数,并不意味着你知道神经网络的逆。这是一个黑盒子!

然而,你可以想象一个神经元对特定输入的反应。例如,这是“方面”神经网络查找识别脸部:

enter image description here

Google Deepdream也放大它寻找识别某些对象的问题。一探究竟!

+0

@托马斯W如果给定函数的逆使用存在... – Aditya

+1

@ADITYA如果?没有。有两个原因,首先,神经网络是一个黑盒子(请参阅http://stats.stackexchange.com/a/93713/147931)。其次,采取'f(x)= x^2'。如果你想从f(n)计算n,那么有两种可能的解决方案;对于神经网络来说也是一样的,可以有多种解决方案,所以不可能将它们全部逆转。但重点是:仅仅因为你知道函数的反函数,并不意味着你知道神经网络的逆。这是一个黑盒子! –

相关问题