2017-03-02 54 views
1

我们有地方出现一个卡夫卡消费者没有接收发布到主题的消息的问题。 (我说出现,因为我现在还没有到这条底线,我可能是错的。)如何确定卡夫卡消费者的偏移

我使用Spring为Apache的卡夫卡和我的消费实际上是@KafkaListener注释的方法。

这个问题是间歇性的,我无法重新创建它。

有我的方式看卡夫卡经纪人的记录,或任何其他工具,以帮助我找出我的消费者补偿?我想要具体的证据证明我的消费者正在接收消息。

+1

代理日志(即日志文件)中没有任何内容包含此信息。请参阅SönkeLiebau的答案,了解如何找到您要查找的信息。 –

回答

4

查看kafka-consumer-groups工具,该工具可用于检查消费者的偏移和滞后(消费者在您运行此命令时必须处于活动状态)。

./kafka-consumer-groups --bootstrap-server 127.0.0.1:9092 --new-consumer --describe --group console-consumer-55936 

GROUP       TOPIC       PARTITION CURRENT-OFFSET LOG-END-OFFSET LAG    OWNER 
console-consumer-55936   test       0   6    6    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       1   1    1    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       2   1    1    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       3   1    1    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       4   2    2    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       5   1    1    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       6   1    1    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       7   2    2    0    consumer-1_/192.168.0.83 
console-consumer-55936   test       8   1    1    0    consumer-1_/192.168.0.83 

这应该允许您跟踪是否任何实际消耗与否。

+0

这看起来很完美。 “卡夫卡 - 消费者群体”是卡夫卡最新版本的一部分吗?我们正在使用2.11-0.9.0.1。 – vegemite4me

+1

据我所知,这是在介绍[0.9.0.0](https://issues.apache.org/jira/browse/KAFKA-1476),所以应该是提供给您。 –

+0

啊,看起来他们错过了为此创建'.bat'文件版本。我已经创建了自己的本地([有人至今已将此添加到项目(https://github.com/apache/kafka/commits/trunk/bin/windows/kafka-consumer-groups.bat))。再次感谢你。 – vegemite4me

1

除了使用在对方的回答是正确的,完全有效的,你也可以使用Windows GUI应用程序,显示你对Consumer_groups相同的信息和他们的偏移/滞后描述./kafka-consumer-groups:

http://www.kafkatool.com/download.html