惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

S
Secure Thoughts
雷峰网
雷峰网
罗磊的独立博客
T
The Blog of Author Tim Ferriss
阮一峰的网络日志
阮一峰的网络日志
量子位
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
云风的 BLOG
云风的 BLOG
人人都是产品经理
人人都是产品经理
GbyAI
GbyAI
Cisco Talos Blog
Cisco Talos Blog
Engineering at Meta
Engineering at Meta
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
A
About on SuperTechFans
D
Darknet – Hacking Tools, Hacker News & Cyber Security
The Cloudflare Blog
Know Your Adversary
Know Your Adversary
T
Threat Research - Cisco Blogs
Spread Privacy
Spread Privacy
D
DataBreaches.Net
T
The Exploit Database - CXSecurity.com
K
Kaspersky official blog
Cyberwarzone
Cyberwarzone
爱范儿
爱范儿
U
Unit 42
Security Latest
Security Latest
M
MIT News - Artificial intelligence
月光博客
月光博客
Scott Helme
Scott Helme
G
Google Developers Blog
有赞技术团队
有赞技术团队
T
Tor Project blog
宝玉的分享
宝玉的分享
Y
Y Combinator Blog
博客园 - Franky
H
Hackread – Cybersecurity News, Data Breaches, AI and More
aimingoo的专栏
aimingoo的专栏
The GitHub Blog
The GitHub Blog
V
V2EX
B
Blog
Apple Machine Learning Research
Apple Machine Learning Research
S
Securelist
博客园 - 三生石上(FineUI控件)
Blog — PlanetScale
Blog — PlanetScale
TaoSecurity Blog
TaoSecurity Blog
Stack Overflow Blog
Stack Overflow Blog
P
Proofpoint News Feed
腾讯CDC
D
Docker
Google Online Security Blog
Google Online Security Blog

博客园 - 李潘

我们为什么需要分布式系统? 怎么算是在工作中负责? 怎么更好的沟通? 怎么用工作邮件? 为工作排好优先级 聊聊数据压缩 怎么使用硬件同步原语替代锁? 怎么正确使用锁? 聊聊缓存 怎么避免服务内存溢出? 应用程序之间的通信传输协议 怎么选择数据序列化方案? 怎么利用异步设计提升系统性能? 怎么处理消息积压问题? 怎么处理消息重发的问题? 怎么做才能不丢消息? 怎么用消息队列实现分布式事务? 聊聊消息队列中的基础概念 我们要选择哪个消息队列产品?
为什么Kafka的性能那么好?
李潘 · 2023-03-16 · via 博客园 - 李潘

Apache Kafka是一个高性能的消息队列,在众多的消息队列产品中,Kafka的性能是处于第一梯队的。

Kafka的高性能主要取决于以下几方面:

  1. 使用批量处理的方式来提升系统吞吐能力
  2. 基于磁盘文件高性能顺序读写的特性来设计的存储结构
  3. 利用操作系统的PageCache来缓存数据,减少IO并提升读性能
  4. 使用零拷贝技术加速消费流程

接下来,我们展开讨论Kafka是如何利用上述手段提升性能。

使用批量消息提升服务端处理能力

在Kafka内部,消息都是以“批”为单位处理的,Kafka的客户端SDK在实现消息发送逻辑的时候,采用了异步批量发送的机制。

当我们调用send()方法发送一条消息后,无论我们是同步发送还是异步发送,Kafka并不会立刻把这条消息发送出去,它会先把这条消息存放在内存中,然后选择合适的时机把缓存的所有消息组成一批,一次性的发给Broker。

在Broker端,整个处理流程中,无论是写入磁盘、从磁盘读出来、还是复制到其他副本,批消息都不回被解开,一直是作为一条“批消息”进行处理的。

在消费时,消息同样是以批为单位进行传递的,Consumer从Broker拉到一批消息后,在客户端把批消息解开,再一条一条交给用户代码处理。

这样,构建批消息和解开批消息分别在发送端和消费端的客户端完成,不仅减轻了Broker的压力,还减少了Broker处理请求的次数,提升了总体的处理能力。

使用顺序读写提升磁盘IO性能

对于磁盘来说,一个重要特性是顺序读写的性能要远远好于随机读写。

Kafka利用了磁盘这个特性,它的存储设计非常简单,对于每个分区,它把从Producer收到的消息,顺序地写入对应的log文件中,一个文件写完了,就开启一个新的文件继续顺序写下去。消费的时候,也是从某个全局的位置开始,顺序地把消息读出来。

利用PageCache加速消息读写

Kafka会利用PageCache加速消息读写。PageCache是操作系统在内存中给磁盘上的文件建立的缓存。无论我们使用什么语言编写的程序,在调用系统的API读写文件的时候,并不会直接去写磁盘上的文件,应用程序实际操作的都是PageCache,也就是文件在内存中缓存的副本。

应用程序在写入文件的时候,操作系统会先把数据写入到内存的PageCache,然后再一批一批地写到磁盘上。

当我们从PageCache中读物数据时,会有两种结果:

  1. PageCache中有数据,可以直接读取,这样就节省了从磁盘上读物数据的时间。
  2. PageCache中没有数据,操作系统会引发一个缺页中断,应用程序的读取线程被阻塞,操作系统把数据从文件中复制到PageCache中,然后应用程序再从PageCache中继续把数据读出来,这时真正读一次磁盘上的文件,这个读的过程会比较慢。

用户的应用程序在使用完某块PageCache后,操作系统并不会立刻就清除这个PageCache,而是尽可能的利用空闲的物理内存保存这些pageCache,除非系统内存不够,操作系统才会清理掉一部分PageCache,清理策略一般是LRC或者它的变种方法。

使用零拷贝技术加速消费流程

在服务端,处理消费的逻辑步骤如下:

  • 首先,从文件中找到消息数据,读到内存中
  • 然后,把消息通过网络发送给客户端。

这个过程中,数据实际上做了2到3次复制:

  1. 从文件复制数据到PageCache中,如果命中PageCache,这一步可以忽略。
  2. 从PageCache复制到应用程序的内存空间中。
  3. 从应用程序的内存空间复制到Socket缓冲区。

Kafka使用零拷贝技术把上述复制次数减少一次,上面的第2步和第3步的两次复制合并成一次复制。直接从PageCache中将数据复制到Socket缓冲区,这样不仅减少了一次数据复制,而且由于不用把数据复制到用户内存空间,DMA控制器就可以直接完成数据复制,不需要CPU参与,速度更快。

如果我们遇到这种从文件读出数据后再通过网络发送出去的场景,并且这个过程汇总你必须要对这些数据进行处理,那一定要使用零拷贝方法,可以有效提升性能。