2017-03-19 190 views
1

我正尝试在centos上使用kubernetes创建redis集群。我有一台主机上运行我的kubernetes master,两台主机上运行kubernetes slave。Kubernetes Redis集群问题

etcdctl GET/KUBE-的CentOS/network/config中

{ "Network": "172.30.0.0/16", "SubnetLen": 24, "Backend": { "Type": "vxlan" } } 

这里是我的复制控制器

apiVersion: v1 
kind: ReplicationController 
metadata: 
    name: redis-master 
    labels: 
    app: redis 
    role: master 
    tier: backend 
spec: 
    replicas: 6 
    template: 
    metadata: 
     labels: 
     app: redis 
     role: master 
     tier: backend 
    spec: 
     containers: 
     - name: master 
     image: redis 
     command: 
      - "redis-server" 
     args: 
      - "/redis-master/redis.conf" 
     ports: 
     - containerPort: 6379 
     volumeMounts: 
     - mountPath: /redis-master 
      name: config 
     - mountPath: /redis-master-data 
      name: data 
     volumes: 
     - name: data 
      emptyDir: {} 
     - name: config 
      configMap: 
      name: redis-config 
      items: 
      - key: redis-config 
       path: redis.conf  

kubectl创建-f rc.yaml

NAME       READY  STATUS RESTARTS AGE  IP   NODE 
redis-master-149tt    1/1  Running 0   8s  172.30.96.4 centos-minion-1 
redis-master-14j0k    1/1  Running 0   8s  172.30.79.3 centos-minion-2 
redis-master-3wgdt    1/1  Running 0   8s  172.30.96.3 centos-minion-1 
redis-master-84jtv    1/1  Running 0   8s  172.30.96.2 centos-minion-1 
redis-master-fw3rs    1/1  Running 0   8s  172.30.79.4 centos-minion-2 
redis-master-llg9n    1/1  Running 0   8s  172.30.79.2 centos-minion-2 

Redis的-config文件中使用

appendonly yes 
cluster-enabled yes 
cluster-config-file /redis-master/nodes.conf 
cluster-node-timeout 5000 
dir /redis-master 
port 6379 

我用下面的命令来创建kubernetes服务。

kubectl暴露RC Redis的主--name = Redis的服务--port = 6379 --target端口= 6379 --type = NodePort

Name:   redis-service 
Namespace:  default 
Labels:   app=redis 
       role=master 
       tier=backend 
Selector:  app=redis,role=master,tier=backend 
Type:   NodePort 
IP:    10.254.229.114 
Port:   <unset> 6379/TCP 
NodePort:  <unset> 30894/TCP 
Endpoints:  172.30.79.2:6379,172.30.79.3:6379,172.30.79.4:6379 + 3  more... 
Session Affinity: None 
No events. 

现在我所有的豆荚和服务正在运行。我正在使用redis-trib pod创建redis群集。

kubectl EXEC - 它redis的-TRIB的bash

./redis-trib.rb创建--replicas 1 172.30.79.2:6379 172.30.79.3:6379 172.30.79.4:6379 172.30.96.2:6379 172.30.96.3:6379 172.30.96.4:6379

Redis集群按照预期创建并带有以下消息。现在

[OK] All 16384 slots covered. 

我应该能够到我的网络中的任何主机的访问kubernetes节点的IP(192.168.240.116)和nodePort(30894)我的Redis集群。当我从一个kubernetes节点执行下面的命令时,一切都按预期工作。

redis的-CLI -p 30894 -h 192.168.240.116 -c

192.168.240.116:30894> set foo bar 
-> Redirected to slot [12182] located at 172.30.79.4:6379 
OK 
172.30.79.4:6379> 

当我在同一网络内运行从不同(非kubernetes)相同的命令节点,我看到连接超时错误。

Redis的-CLI -c -p 30894 -h 192.168.240.116

192.168.240.116:30894> set foo bar 
-> Redirected to slot [12182] located at 172.30.79.4:6379 
Could not connect to Redis at 172.30.79.4:6379: Connection timed out 

是没可能访问kubernetes集群网络之外Redis的集群使用NodePort服务公开时类型?

另外我不能使用LoadBalancer服务类型,因为我没有托管它在云上。

我一直坚持这个问题很长一段时间。有人可以建议我应该用什么方法访问我的网络之外的redis集群?

感谢

+0

是kube-proxy运行,还是抛出任何错误? – jaxxstorm

回答

2

运行./redis-trib.rb create --replicas 1 172.30.79.2:6379 172.30.79.3:6379 172.30.79.4:6379 172.30.96.2:6379 172.30.96.3:6379 172.30.96.4:6379无厘头与此设置。

端口6379只能通过您提供的服务访问,但不能直接在您尝试。这就是为什么当你尝试使用你的设置时遇到问题。

你可以做的是公开每个POD与它自己的服务,并有一个额外的集群服务来平衡外部请求。如example repository from Kelsey Hightower所示。通过这种方式,POD可以通过内部公开的端口进行通信,(外部)客户端可以使用负载均衡的集群端口。这意味着每个POD都需要它自己的副本集(或部署)。凯尔西在YouTube上有很长的演讲解释了这个设置 - YouTube/Slideshare

另一种方法是使用单个redis master,如其他示例所示。

+0

谢谢。我尝试通过删除gcloud设置并更改服务中的IP来跟踪Kelsey的文档[link](https://github.com/kelseyhightower/kubernetes-redis-cluster),但几乎没有任何更改。复制品和服务创建。当我尝试按照文档中的说明创建群集时,它不会创建群集。相反,我可以看到**等待群集长时间加入**并继续前进。 > ./redis-trib.rb create --replicas 1 10.254.242.1:6379 10.254.242.2:6379 10.254.242.3:6379 10.254.242.4:6379 10.254.242.5:6379 10.254.242.6:6379 – user3610007

+0

Whitout看到configs这是很难回答。基本思想是每个POD有一个服务和一个部署,并使用复合服务。您可能需要分享更多的细节才能进一步调试。 – pagid

+0

Config与此链接中的replicaset [link](https://github.com/kelseyhightower/kubernetes-redis-cluster/blob/master/replicasets/redis-1.yaml)相同,只是在下面几行(gcePersistentDisk:pdName :“redis-1”fsType:ext4)被替换为** emptyDir:{} **以删​​除gcloud依赖项。并为服务[链接](https://github.com/kelseyhightower/kubernetes-redis-cluster/blob/master/services/redis-1.yaml)。我改变了我的集群ip来匹配配置** clusterIP:“10.254.242.1”** – user3610007