如何构建参数服务器？

Question

在分布式张量流中，参数服务器是否需要与主服务和辅助服务一起构建为张量流服务器？如果答案是肯定的，那么PS机器也可以成为工人吗？

Answer 1

在分布式TensorFlow中，每个工人也都是主人。此外，TensorFlow运行时只有一种工作者，与其前身DistBelief不同，后者具有专门的参数服务器工作人员。

您可以通过使用一些worker来存储参数和其他参数来执行session.run请求来实现传统的参数服务器体系结构。