2016-06-09 76 views
1

我想卡夫卡添加新的存储,这里是我已经做了:卡夫卡,新的存储

  1. 添加,准备和安装存储在Linux操作系统下
  2. 卡夫卡代理添加新的存储: log.dirs:/ DATA0 /卡夫卡日志/ DATA1 /卡夫卡日志
  3. 重启卡夫卡经纪人
  4. 下/ DATA1 /卡夫卡日志新目录已创建,但大小为:

杜-csh/DATA1 /卡夫卡日志/ 156K/DATA1 /卡夫卡日志/

而且只有老/ DATA0使用了尺寸并没有增长。

我失踪了什么?我应该多做些什么来解决这个问题?存储空间已满,并且/ data1仍未使用。

回答

1

当您为Kafka添加新的数据存储路径时,旧数据不会自动在此光盘上重新平衡。新存储将在您使用时使用,例如,创建新主题或增加现有分区的数量。

在这种情况下,如果您需要将某些数据移动到新磁盘上,则需要使用手动数据重新平衡。有关更多详细信息,请参阅:https://cwiki.apache.org/confluence/display/KAFKA/Replication+tools

在您的情况下,为防止磁盘空间完全耗尽,您可以在一段时间内减少主题(retention.ms)的寿命,否则代理将会下降。

1

我只能猜测 - 但对我来说,这听起来像你没有创建一个新的话题或增加当前话题的分区数量。 Kafka不会将现有分区移动到新的log.dir中。据卡夫卡文档:

...创建的每个新分区将被放置在当前具有最少分区的目录 。 - https://kafka.apache.org/08/configuration.html