假设我们有训练的神经网络....神经网络(反向传播)
我的问题是将相同的神经网络产生的数据回来,如果我们应用什么以前是输出在目前的输入?
我正在研究MNIST数据集,并想知道如果我们使用反向传播算法从输出端训练我们的网络(使用最终输出作为来自该端的输入)将会发生什么。
这可能是一个很普通,但我仍然需要一些帮助来自社会
我的想法说,它可以取回数据(或近似原始数据集)... 可以证明是合理的吗?
假设我们有训练的神经网络....神经网络(反向传播)
我的问题是将相同的神经网络产生的数据回来,如果我们应用什么以前是输出在目前的输入?
我正在研究MNIST数据集,并想知道如果我们使用反向传播算法从输出端训练我们的网络(使用最终输出作为来自该端的输入)将会发生什么。
这可能是一个很普通,但我仍然需要一些帮助来自社会
我的想法说,它可以取回数据(或近似原始数据集)... 可以证明是合理的吗?
据我所知。它不能。特别是因为activation functions(主要)是非线性的。
神经网络是一个黑盒子(见this answer)。其次,采取f(x) = x^2
。如果你想从f(n)
计算n
,那么有两种可能的解决方案;对于神经网络来说也是一样的,可以有多种解决方案,所以不可能将它们全部逆转。但重点是:仅仅因为你知道函数的反函数,并不意味着你知道神经网络的逆。这是一个黑盒子!
然而,你可以想象一个神经元对特定输入的反应。例如,这是“方面”神经网络查找识别脸部:
Google Deepdream也放大它寻找识别某些对象的问题。一探究竟!
@托马斯W如果给定函数的逆使用存在... – Aditya
@ADITYA如果?没有。有两个原因,首先,神经网络是一个黑盒子(请参阅http://stats.stackexchange.com/a/93713/147931)。其次,采取'f(x)= x^2'。如果你想从f(n)计算n,那么有两种可能的解决方案;对于神经网络来说也是一样的,可以有多种解决方案,所以不可能将它们全部逆转。但重点是:仅仅因为你知道函数的反函数,并不意味着你知道神经网络的逆。这是一个黑盒子! –
'''2 + 3 = 5'''。 '''5 = 0 + 5; 1 + 4; 2 + 3'''。对于一些数学背景检查双射函数和鸽子的原理。对于一些阅读关于做不同但类似的东西寻找一些称为*深神经网络很容易被愚弄*的论文。 – sascha
@ sascha如果存在给定函数的逆函数会怎么样... – Aditya
检查NN架构的内部工作原理并决定自己。由于这些是多层次的,所以除了理论上的情况之外,双射性质都会丢失。 – sascha