
























这是一个创建于 2124 天前的主题,其中的信息可能已经有所发展或是发生改变。
我现在用的是启动的时候动态生成 groupId, 比如 name + uuid 的方式
但是这样重启后就会导致原来的 consumerGroup 对应的实例都被销毁了.但 kafka 里依然存在原来的 consumerGroup, 监控上看已经被销毁的 consumerGroup 也会发现堆积越来越严重, 有谁知道正确的使用姿势吗??
不胜感激
😢
1 useben 2020 年 8 月 21 日生成唯一 groupId, 存到文件, 启动时读文件, 有就用原来的, 没有再生成写到文件... |
3 SingeeKing 2020 年 8 月 21 日 via iPhone环境变量? |
4 hustmisa 2020 年 8 月 21 日首先 consumer 的使用业务需求是什么,新启动的 groupId 对启动期间的数据是否可以丢弃? |
5 BBCCBB 2020 年 8 月 21 日@SingeeKing 都是同一个服务, 不同实例,这个不方便给每个实例加环境变量, 哈哈 @hustmisa 可以丢弃, 因为应用上有 ack 超时重试机制, 要命的是重启后老的 groupId 不会自动心跳超时消失, 会在监控上看到消息不断堆积. 其实我想实现的就是 rocketmq 的广播的功能.. 但我们使用 kafka. |
6 mosesyou 2020 年 8 月 21 日为什么用唯一或者固定的 groupId 不行 |
8 zardly666 2020 年 8 月 21 日用 redis 做一个类似选 ID 的东西,服务启动份数等于 ID 份数。 for (int i = 0; i < 启动份数; i++) { 服务启动的时候,第一个服务拿到 consumerId+1 ; |
9 zardly666 2020 年 8 月 21 日代码没删干净,大概意思就是服务启动动态去拿自己所属的 consumer |
10 wisej 2020 年 8 月 21 日 via Android另一种思路,服务同一个 groupid,分发由服务自己来做(拿到服务其它实例的 ip ) 另外旧 cg 堆积会有什么负面影响么?除了消息会冗余地保存,直到 retention 设置的时间被清除 |
11 sonice 2020 年 8 月 21 日想多了,consumerGroup 堆积能有多少,起停一次多一个,也不会有很多啊。这也不会导致 zk 性能降低啊 |
12 amwyyyy 2020 年 8 月 21 日原来 consumerGroup 的堆积只是个数字,消息数据只有一份,不管你有几个 consumerGroup 。过期的 consumerGroup 会被清理掉。 |
13 kifile 2020 年 8 月 21 日我的理解,题主的意思是因为 ConsumerGroup 的 GroupId 每次重启会重新生成一个新的,导致监控面板上出现了废弃的 groupId 的 Lag 不断增大的现象。 如果重启时 Consumer 的 offset 没有什么意义,那就在重启新应用前,删除老的 ConsumerGroup,做一个这种策略不就好了? |
14 BBCCBB 2020 年 8 月 21 日 |
15 mosesyou 2020 年 8 月 21 日纯 docker 么,如果是 k8s 的话,用 statefulset,可以实现每个实例有固定递增编码 0,1,2.... |
16 BBCCBB 2020 年 8 月 21 日@mosesyou 我们将 docker 镜像上传到云上, 然后后续的流程我得研究一下, 问一下我们负责这一块的同事, 如果可行的话这得确是一个好办法. 多谢. |
17 yangbonis 2020 年 8 月 21 日 via iPhonemq 不是本来就组播工作的?所有订阅都会收到。 |
19 j2gg0s 2020 年 8 月 21 日@BBCCBB 瞎逼设计,每个实例根据消息在自己的内存里面做些什么工作吗?不能搞个 redis 或者 db ? 然后,kafka 的监控看到堆积是没有什么大影响的,因为消息只存一份。 |
23 BBCCBB 2020 年 8 月 21 日im 推消息, 量小, 所以还不想做路由中心. 所以采用广播. |
25 rockyou12 2020 年 8 月 21 日我觉得最好用其它 mq,kafka 本来就不适合这种场景,你这业务看起来也不需要持久化,redis 的 sub/pub 可能都够了 |
26 lwldcr 2020 年 8 月 21 日你这个问题 加一个预处理步骤就可以了吧。 比如你一组应用有 10 个实例,那你提前分配好 groupId 名字,如 cg_1, cg_2,..., 然后存到一个地方:DB 、Redis 等 然后每个应用实例启动时 去存储的地方请求分配一个 groupId,用这个 groupId 启动 kafka 消费服务不就完事了 |
27 JKeita 2020 年 8 月 21 日固定 group id 每次启动清除 offset 怎样? |
28 yty2012g 2020 年 8 月 21 日固定 group id,每次设置 offset 到最新应该就可以满足 |
29 IamNotShady 2020 年 8 月 21 日 via iPhoneredis 的 pub/sub 不香吗? |
31 timonwong 2020 年 8 月 21 日原理是手动维护 offset,如果程序不死 retry 的时候保持 offset,程序死了从最新的来,可以按照自己的需求来调整。 不过有一点要注意的真的是 IM 的话,因为 kafka 的 partition reblance IO 相当大,可能造成非常大的 E2E 的 latency,这点要注意(虽然可以通过配置限制 IO 来绕过)。 总的来说,其实不适合 IM 这个场景 |
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。