惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

aimingoo的专栏
aimingoo的专栏
WordPress大学
WordPress大学
阮一峰的网络日志
阮一峰的网络日志
博客园 - 司徒正美
月光博客
月光博客
宝玉的分享
宝玉的分享
Recent Announcements
Recent Announcements
小众软件
小众软件
H
Hackread – Cybersecurity News, Data Breaches, AI and More
美团技术团队
博客园 - 三生石上(FineUI控件)
A
About on SuperTechFans
J
Java Code Geeks
云风的 BLOG
云风的 BLOG
罗磊的独立博客
大猫的无限游戏
大猫的无限游戏
IT之家
IT之家
Vercel News
Vercel News
量子位
Martin Fowler
Martin Fowler
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
V
Visual Studio Blog
腾讯CDC
有赞技术团队
有赞技术团队

Jiajun的技术笔记

你好,2026! TiDB 源码阅读(六):TiDB Coprocessor 源码解析 性能优化的核心思想 TiDB 源码阅读(五):索引 TiDB 源码阅读(四):AST、逻辑计划、物理计划 CockroachDB Serverless Architecture podman 无故退出 Cursor Control-L (CTRL-L) Keyboard Shortcuts in Terminal Replace docker with podman Using xmonad with xfce4 A RC script for freebsd frpc 自己动手写一个k8s controller AI 会取代你的(编程)岗位吗? 自建DERP服务器提升Tailscale连接速度(使用Nginx转发) 自动升级Docker容器 再读《程序员修炼之道-从小工到专家》 让浏览器下载文件 再读《软件随想录》/《黑客与画家》/《软技能》 2的补码 编程语言中的 context 是什么? flutter macOS 构建出错 Flatpak 使用小记 Golang CAS 操作是怎么实现的 PostgreSQL 当MQ来使用 Clash 结合 工作VPN 的网络设计 使用 PostgreSQL 搭建 JuiceFS PostgreSQL 配置优化和日志分析 有GitHub Copilot?那就可以搭建你的ChatGPT4服务 窗口函数的使用(以PG为例) 读《为什么学生不喜欢上学》
HTTP 压力测试中的 Coordinated Omission
Jiajun Huang · 2024-08-30 · via Jiajun的技术笔记

HTTP负载测试工具有很多,常见的有 ApacheBench,也就是 ab,还有 wrk、vegata等。在了解这些工具时,我了解到一个新的概念:

Coordinated Omission,来看 GPT 的解释:

“Coordinated Omission”是性能测试中一个重要的概念。在性能测试中,我们常常需要测量系统的延迟,例如一个请求从发送到收到响应所需的时间。然而,如果在系统延迟的情况下,我们暂停发送新的请求,那么我们测量的延迟就会低于实际值。这就是所谓的”Coordinated Omission”(协同遗漏)。简单来说,”Coordinated Omission”是一种测试偏差,它发生在以下情况:当系统延迟时,我们暂停发送新的请求,等待系统恢复后再发送。这样,我们就忽略了在系统延迟期间应该发送但没有发送的请求。因此,我们测量的延迟结果会低于实际值。例如,假设我们每秒发送10个请求,每个请求的预期延迟是100毫秒。然而,在某一时刻,由于系统延迟,一个请求花了200毫秒才得到响应。如果我们在这200毫秒内暂停发送新的请求,那么我们就会忽略掉这200毫秒内应该发送但没有发送的1个请求。因此,我们测量的平均延迟会低于实际值。”Coordinated Omission”的问题在于,它会导致我们低估系统在高负载情况下的真实性能。因此,在进行性能测试时,我们需要采取措施避免”Coordinated Omission”,以获得更准确的测试结果。

这个问题,会导致我们低估系统在高负载情况下的真实性能。举个简单的例子来理解,如果我们实现一个压测工具,采用的是 for循环来实现,其中一个请求耗时较长导致后续请求被阻塞,那么这个工具就会有 Coordinated Omission 问题。

wrk 就有 Coordinated Omission 的问题,因此有人提出了 wrk2 来解决这个问题。不过由于要自己编译,还挺麻烦的,我选择 使用 vegata 来进行压测(vegata可以携带 payload 进行请求)。

vegata 使用示例

首先我们用Go语言写一个简单的HTTP服务:

package main

import (
	"net/http"

	"github.com/gin-gonic/gin"
)

func main() {
	r := gin.Default()
	r.POST("/", func(c *gin.Context) {
		c.JSON(http.StatusOK, gin.H{
			"message": "pong",
		})
	})
	r.Run() // listen and serve on 0.0.0.0:8080 (for windows "localhost:8080")
}

然后我们用 vegata 来进行压测:

$ echo "POST http://localhost:8080/" | vegeta attack -body post.json -rate=10000 -duration=30s | vegeta report
Requests      [total, rate, throughput]         300000, 10000.39, 10000.35
Duration      [total, attack, wait]             29.999s, 29.999s, 118.062µs
Latencies     [min, mean, 50, 90, 95, 99, max]  49.042µs, 152.644µs, 137.14µs, 181.872µs, 250.288µs, 466.057µs, 3.108ms
Bytes In      [total, mean]                     5400000, 18.00
Bytes Out     [total, mean]                     7500000, 25.00
Success       [ratio]                           100.00%
Status Codes  [code:count]                      200:300000
Error Set:

这样就可以看到持续30s,每秒10000个请求的情况了。