添加链接 注册    登录
link之家
链接快照平台
  • 输入网页链接,自动生成快照
  • 标签化管理网页链接
相关文章推荐
温柔的可乐  ·  宁波市十大初中排行榜 宁波市有哪些好中学 ...·  9 月前    · 
一直单身的台灯  ·  支付宝的“碰一碰”到底是不是新瓶装旧酒_支付 ...·  1 年前    · 
仗义的沙发  ·  1.6 ...·  2 年前    · 
骑白马的盒饭  ·  福田图雅诺 - 提加商用车网·  2 年前    · 
聪明的冰棍  ·  Unity 3D ...·  2 年前    · 
link之家  ›  如何解决kafka topic数量过多带来的性能问题? - Joey 的回答 -
kafka topic
https://www.zhihu.com/question/431131178/answer/1586855731
不拘小节的蚂蚁
2 年前
如何解决kafka topic数量过多带来的性能问题?
Joey
Joey ​
勤杂工

Kafka中Topic的元数据是在zookeeper中的,大量topic确实会造成性能瓶颈,不仅在磁盘读写上。虽然目前还没有发布的Kafka 3.0计划去掉ZK的依赖自组Raft集群,未来或许能缓解这个问题。但当前,是不是可以尝试解决单个Kafka集群topic过多这个根本问题呢?

第一个最简单粗暴的人工Sharding方法: 部署多个Kafka集群 。给接入的服务分组,互相之间 没有发布订阅关系 的业务服务,配置用不同的Kafka连接信息。对于题主提到的日志服务这样的N个服务发布,1个服务订阅的场景,应该是实用的。

第二个有代码侵入的方法, 合并Topic,业务封装一层SubTopic 。比如每个服务的N个统计项,封装到一个自定义的消息类,加一个subTopic的字段用于区分,订阅消费时根据该字段决定消息如何处理。

第二个方法,可能是在“ 消费到无关的消息 ”和“ 创建大量topic ”之间的一个折衷方案。毕竟Kafka本身没有subtopic的支持,星号通配符订阅其实也是在ZK遍历和创建多个元数据,不能解决性能问题。

个人对Kafka了解比较浅,目前想到的只有这两个笨办法了。

 
推荐文章
温柔的可乐  ·  宁波市十大初中排行榜 宁波市有哪些好中学 宁波市重点中学→MAIGOO生活榜
9 月前
一直单身的台灯  ·  支付宝的“碰一碰”到底是不是新瓶装旧酒_支付宝 碰一碰 丹尼斯-CSDN博客
1 年前
仗义的沙发  ·  1.6 正则表达式【匹配非字母和数字】_正则表达式匹配非字母-CSDN博客
2 年前
骑白马的盒饭  ·  福田图雅诺 - 提加商用车网
2 年前
聪明的冰棍  ·  Unity 3D Animation角色-腾讯云开发者社区-腾讯云
2 年前
今天看啥   ·   Py中国   ·   codingpro   ·   小百科   ·   link之家   ·   卧龙AI搜索
删除内容请联系邮箱 2879853325@qq.com
link之家 - 链接快照平台
© 2024 ~ 沪ICP备11025650号