iOS上运行缓慢的Tensorflow

Question

我正在运行通过tensorflow分发的camera iOS example，它非常慢：iPhone6上每推理4-5秒，运行inception5h.zip模型。

据我的理解，这是GoogleNet模型，它是轻量级的，iOS代码拉出它的第一个输出层，大约是整个模型的一半。我用我的macbook上的python界面运行了相同的模型，每个推理需要30 ms。

所以我想知道为什么它在iOS上运行相同的模型比在macbook上慢150倍左右。似乎我做了一些明显的错误。

Answer 1

这还没有很好的记录，但您需要将优化标志传递给编译脚本以获得库的快速版本。这里有一个例子：

tensorflow/contrib/makefile/compile_ios_tensorflow.sh "-Os"

这应该让你的速度涨了不少，非正式我看到第二个或更少在5S GoogLeNet。