2017-06-13 29 views
2

对于各种硬件和软件性能的原因,我想强制在TensorFlow中进行对称量化。我认为最快的方法来尝试这一点,并将其与现有非对称量化的精确度进行比较,以将量化最大值设置为“ls tensorflow/core/kernels/quant”处的最小值的负值。我是否缺少需要修改的其他文件?有更好的更集中的方式来达到预期的行为吗?在TensorFlow中强制对称量化

回答

0

This commit增加了SCALED模式,这可能是你想要的。

使用传统的MIN_COMBINED模式时,当您将“量化最大值设置为最小值的负值”时,零点偏移0.5。那是因为 - | max |映射到-128和| max |映射到127.