惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

酷 壳 – CoolShell
酷 壳 – CoolShell
aimingoo的专栏
aimingoo的专栏
P
Proofpoint News Feed
宝玉的分享
宝玉的分享
MyScale Blog
MyScale Blog
The GitHub Blog
The GitHub Blog
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
月光博客
月光博客
量子位
博客园 - 司徒正美
V
V2EX
I
InfoQ
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
Vercel News
Vercel News
H
Hackread – Cybersecurity News, Data Breaches, AI and More
美团技术团队
N
Netflix TechBlog - Medium
L
LangChain Blog
IT之家
IT之家
Blog — PlanetScale
Blog — PlanetScale
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
Stack Overflow Blog
Stack Overflow Blog
A
About on SuperTechFans
Microsoft Azure Blog
Microsoft Azure Blog

博客园_首页

Plist 二进制格式 Milvus 和 PGVector,哪个更好? OpenClaw 已过时?在 VS Code 中运行 Hermes Agent! 第30篇文章:一个大三计科生的自白 Manim如何在数学公式中完美显示中文? Docker 部署 RocketMQ 5 并发编程核心概念辨析 C#事务处理最佳实践:别再让“主表存了、明细丢了”的破事发生 CLI 是什么?为什么大厂突然集体卷命令行? 【从0到1构建一个ClaudeAgent】协作-自主Agent UIImageView 设置图片不生效的原因排查 最小二乘问题详解20:无先验约束下的增量式SFM自由网平差 痞子衡嵌入式:大话双核i.MXRT1180之XIP应用里借助MU实现可靠Flash IAP的方法 AI Chat 封装, SemanticKerne.AiProvider.Unified 已发布 Windows下右键编辑js文件无法打开记事本——在注册表中使用环境变量 在后台服务中使用 Scoped 服务,为什么总是报错? H200 安装驱动并使用sglang启动模型 wireshark 抓包Trap上报告警内容 我用 AI 辅助开发了一系列小工具(2):图片压缩工具 [A Primer On MC and CC] 2.1 Memory Consistency 1 - 指令重排序和 SC 模型 Oracle数据库SCN推进技术详解与实践指南 玩转控件:封装个带图片的Label控件 Claude Code 4.7 真正该升级的不是模型,而是你的工作流 前端小白一句话,AI 帮我做了个颜值拉满的桌面媒体播放器。当代码不再是门槛,一句话编程就是现实。 5. WorkBuddy: 小龙虾的灵魂三件套,让你的小龙虾不只是工具 SQLite 分片方案实战:三种分片策略的深度对比 告别简陋 UI!一款基于 Fluent Design 和基于 WinUI 的开源免费、现代化的 Avalonia UI 控件库 关于二进制排列组合枚举的总结 AI开发-python-LangGraph框架(3-27-LangGraph从零实现大模型智能决策工作流) ElasticSearch主分片和副本分片概念详解
从零学习Kafka:生产者分区机制
Jackeyzhe · 2026-04-28 · via 博客园_首页

在前面的文章中,我们主要学习了 Kafka 服务端的相关知识。从本文开始,我们将视角转到客户端。

分区的核心逻辑

从零学习Kafka:集群架构和基本概念一文中,我们了解了 Kafka 中分区的概念,它的主要作用一个是支持系统的可伸缩性,另一个是负载均衡。

生产者在写入数据时,实际是要写入到指定的分区。换句话说分区是 Kafka 中消息组织的最基础的单位。除了做负载均衡外,分区还有一个作用就是保证业务消息的处理顺序。

当你调用 producer.send(record) 时,Kafka 需要先确定数据要写到哪个分区。具体逻辑如下:

  1. 如果显示指定了 Partition:直接把数据写到指定分区

  2. 如果没有显示指定 Partition,但指定了 Key:把数据写到 Key 所对应的分区

  3. 既没有指定 Partition,也没有指定 Key:使用 Kafka 的默认策略来分配数据

分区策略

到这里你可能想问,Kafka 到底是如何判断一条数据应该分配到哪个分区的呢?别急,我们现在就来介绍 Kafka 的分区策略。

按 Key 分配策略

如果我们在消息中指定了消息键,Kafka 会将相同 Key 的消息发送到相同的分区。具体方式是使用 murmur2 算法对 Key 进行 Hash,即 abs(murmur2(key)) % numPartitions。这个策略是为了实现局部有序性。

partitionkey

轮询策略

如果没有指定 Key,在旧版本中,Kafka 默认使用的是轮询策略,也就是对消息按顺序分配。如下图第一条消息分配到 partition0,第二条消息分配到 partition1,第三条消息分配到 partition2。

partitionround

轮询策略的好处就是负载非常均衡,它能最大限度保证消息被平均分配到所有分区上,但它的缺点也比较明显,这样分配会导致每个批次都很小,会有很多小请求,从而影响吞吐量。

粘性策略

为了解决轮询策略的问题,Kafka 又引入了新的分区策略——粘性策略。它的逻辑是消息默认跟随上一个消息的分区,直到批次被填满,或者等待时间到了。这样做的好处是可以极大的提高消息的批处理效率。

随机策略

旧版本的 Kafka 也支持随机策略,它的逻辑就是每次生成一个随机数,然后计算出对应的分区。这个策略本身的目的也是希望能做到负载均衡,但是实际效果不如轮询策略,因此在新版本中就不会使用了。

自定义策略

最后再介绍一下自定义策略,自定义分区策略的方法也很简单。只需要在自定义类中实现接口 org.apache.kafka.clients.producer.Partitioner,然后在 partition() 方法中实现自己的分区逻辑。

partition 方法提供了很多入参,包括消息相关的 topic、key、keyBytes、value、valueBytes,也包括集群相关的 cluster。一般情况下这么多信息足够你计算出对应消息需要发送到哪个分区。

int partition(String topic, Object key, byte[] keyBytes, Object value, byte[] valueBytes, Cluster cluster);

关键参数

介绍完了分区策略之后,我们再看几个分区相关的配置参数。

第一个是 batch.size,在介绍粘性策略时,我们提到了批次填满时,消息会分配到新的分区。这个参数就是用来控制批次大小的,默认是 16KB,批次越大,吞吐量越高。

第二个参数是 linger.ms,也是用于粘性策略的。它控制的是等待时间,默认是 0ms。生产环境可以设置成 5 - 100 ms。

总结

本文我们的视角从服务端过渡到了客户端,先从生产者的分区机制入手。了解了为什么需要分区,以及分区的几种策略,最后又介绍了两个配置参数。下一节我们将一起了解生产者端的性能提升利器——压缩。