惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
P
Palo Alto Networks Blog
S
Securelist
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
NISL@THU
NISL@THU
L
Lohrmann on Cybersecurity
有赞技术团队
有赞技术团队
The GitHub Blog
The GitHub Blog
C
Cisco Blogs
B
Blog
Microsoft Azure Blog
Microsoft Azure Blog
Recent Announcements
Recent Announcements
Simon Willison's Weblog
Simon Willison's Weblog
T
Tenable Blog
Know Your Adversary
Know Your Adversary
Spread Privacy
Spread Privacy
WordPress大学
WordPress大学
月光博客
月光博客
Latest news
Latest news
C
CXSECURITY Database RSS Feed - CXSecurity.com
T
Threat Research - Cisco Blogs
Cisco Talos Blog
Cisco Talos Blog
I
InfoQ
D
Darknet – Hacking Tools, Hacker News & Cyber Security
W
WeLiveSecurity
Hacker News - Newest:
Hacker News - Newest: "LLM"
酷 壳 – CoolShell
酷 壳 – CoolShell
U
Unit 42
C
Cybersecurity and Infrastructure Security Agency CISA
博客园 - 聂微东
人人都是产品经理
人人都是产品经理
Google DeepMind News
Google DeepMind News
Apple Machine Learning Research
Apple Machine Learning Research
Attack and Defense Labs
Attack and Defense Labs
罗磊的独立博客
T
The Exploit Database - CXSecurity.com
I
Intezer
GbyAI
GbyAI
Jina AI
Jina AI
www.infosecurity-magazine.com
www.infosecurity-magazine.com
Blog — PlanetScale
Blog — PlanetScale
博客园 - 司徒正美
Google Online Security Blog
Google Online Security Blog
Engineering at Meta
Engineering at Meta
D
Docker
Recent Commits to openclaw:main
Recent Commits to openclaw:main
小众软件
小众软件
云风的 BLOG
云风的 BLOG
爱范儿
爱范儿
Project Zero
Project Zero

博客园_首页

Linux实操--组管理、权限管理和定时任务 Java + EasyExcel 实现单个接口导出多个Excel Mem0 源码解析系列(二):提示词工程的深度剖析 Openclaw TaskFlow究竟是什么?和普通Skill技能有什么区别 博文阅读密码验证 - 博客园 嘉立创开源:应该是全网MicroPython教程最多的开发板 Hermes Agent 集成实践:从协议到生产 2026年AI编程工具横评:Cursor、Codex、Claude Code、Zed、Windsurf Java程序员必看的RAG入门教程 2026 AI效率神器:Superpowers + Claude Code 保姆级教程 本地大模型部署全攻略:从 0 到 1 玩转 Ollama 【从0到1构建一个ClaudeAgent】内存管理-上下文压缩 .NET 高级开发 | 设计、实现一个事件总线框架 电子小白入门之NE555 3. WorkBuddy:隐藏玩法,一键召唤专家,让 AI 以"专家身份"给你干活 和AI一起搞事情#3:Claude Teammate 游戏开发翻车实录 【OpenClaw】通过 Nanobot 源码学习架构---(7)Memory C# .NET 周刊|2026年3月3期 我在 Debian 11 上把 K8s 单机搭起来了,过程没你想的那么顺(/opt 目录版) 深度学习进阶(七)Data-efficient Image Transformer CLI+Skill搭建浏览器AI自动化框架,告别一切重复枯燥任务 告别Token账单无底洞:OpenClaw本地部署,重塑企业数据主权的唯一解 FastAPI+Vue:文件分片上传+秒传+断点续传,这坑我帮你踩平了! SBTI 爆火后,我做了个程序员版的 CBTI。。已开源 + 附开发过程 多模态检索开始进入工程期:用 Sentence Transformers 搭建可落地的 Multimodal RAG 100多行代码实现一个最简单的Agent(用ReAct) Claude Code 通关手册(八):推荐 5 个 Hooks,代码质量提升 3 倍 老板:“有人截图了!”。安全部门:“收到,马上查暗水印!” - why技术 技术之外,皆是人间 C#/.NET/.NET Core技术前沿周刊 | 第 69 期(2026年4.01-4.12) Snack JSONPath 项目架构分析 Claude Code Buddy 小析:一个非核心功能,如何体现产品的细节完成度 AI新时代下的图床管理方案-Cloudflare图床+MCP+Skills方案指南 化繁为简:顺丰速运App如何通过 HarmonyOS SDK实现专业级空间测量 从零实现富文本编辑器#13-React非编辑节点的内容渲染 AI开发-python-langchain框架(3-23-OpenAI Functions风格Tool Calling智能助手) .NET + AI 进阶实战:基于类的技能开发 - 打造可治理的 Agent 能力模块 【从0到1构建一个ClaudeAgent】规划与协调-技能 上周热点回顾(4.6-4.12) 电子小白的工具三件套:面包板、杜邦线、万能板 单表五亿数据的查询优化 | Mysql、StarRocks 2. WorkBuddy:从“我是谁”到“帮我干活” C# 如何减少代码运行时间:7 个实战技巧 基于HelixToolkit.SharpDX 渲染3D模型 - 笺上知微 从零开始的双臂具身VLA起源及现阶段发展综述 - SkyXZ 记对 xonsh shell 的使用, 脚本编写, 迁移及调优 - pluvium27 受够了Vibe Coding的失控?换个起点,让AI事半功倍 从开始配置漏洞环境到漏洞复现流程 - 難しい 关于10年工作经验的程序员对OpenClaw的实战经验分享以及看法 - 虚无境 Any metadata 的内存布局 C# .NET 周刊|2026年3月2期 - InCerry 我帮你测过了,测试圈排名第二的 Skill 依然很牛逼 Skill Discovery | 无监督技能发现的经典工作总结 - MoonOut PbootCMS 网站内容数量多导致访问慢?这些实用优化方案帮你提速! - 家兴网络技术工作室 上下文工程是什么?过时了么?一文讲明白! - 一枫说码 网站漏洞怎么发现并修复?一篇实用指南(附完整流程) - 家兴网络技术工作室 开了 TUN 模式还是直连?90% 的人都踩过这个坑 Github日报|2026年04月12日 - AI一族 AScript扩展多种脚本语言 - rockey627 AI 学习笔记:Agent 的记忆机制 你能被装进一个文件里吗?——7 万人把同事"蒸馏"成了 AI - 我没有三颗心脏 Claude Code 通关手册(七):给 AI 装上技能包——Skills 完全指南 - 暮色之狐 在浏览器中快速编辑代码:VSCode Web 集成实践 - Newbe36524 蒸馏自己 skill?基于 Deepseek 的蒸馏器,丐版蒸馏方式,简单便捷 - To_Carpe_Diem Spring AI Aliababa和AgentScope,哪个更好? - 苏三说技术 Etsy 把 1000 个 MySQL 分片迁进 Vitess:425TB 数据背后的真正问题不是性能,而是运维规模 MicroPython LVGL基础知识和概念:底层渲染与性能优化 - FreakStudio 数据库草图算法 Python 潮流周刊#146:CPython 引入 Rust 的进展 - 豌豆花下猫 最小生成树 - mofei1116 红日靶场七:从外网入口、容器逃逸到 AD 接管的完整利用链复盘 - YouDiscovered1t 分享四款开源且实用的 Kafka 管理工具 - 追逐时光者 vLLM 权重加载机制全解析:从挑战到理想架构 LCT 学习笔记 - ACehomoxue Avalonia UI 12.0.0 正式发布:架构演进和性能飞跃 - 张善友 当 AI Agent 把调用链拉长,延迟开始成为一门生意 conhost.exe 无法显示 U+2717 - 145a 太秀了,我把自己蒸馏成了 Skill!已开源 - 程序员鱼皮 ASP.NET Core 内存缓存实战:一篇搞懂该怎么配、怎么避坑 基于 Ghostty 带有分割标签页和为 Claude 编程设计的通知终端 - BugShare AI 焊死入口:教育的“操作系统级”重塑 - 郝hai 初级Java开发工程师使用sql脚本编写代码的过程是简单而且不糊涂 - CoderOilStation Claude Code通关手册(六):MCP协议完全指南 - 暮色之狐 边框灯光环绕动画特效实现指南 - Newbe36524 开源:子木蒸馏版的 SEO 审计工具 seo-audit-skill v1.0 我所理解的Python元模型 【从0到1构建一个ClaudeAgent】规划与协调-TodoWrite - 程序员Seven Claude 和 Codex 在审计 Skill 上性能差异探究 - ACai_sec AScript如何实现中文脚本引擎 - rockey627 【渗透测试】HTB Season10 Garfield 全过程wp - dynasty_chenzi Android 开发者为什么必须掌握 AI 能力?端侧视角下的技术变革 树状数组正确性证明 - AC-wyr 你的 AI 焦虑,可能比 AI 本身更危险——ATM 机没有消灭银行柜员,但恐慌消灭了你的判断力 - 我没有三颗心脏 一个拉胯的分库分表方案有多绝望?整个部门都在救火! - 冰河团队 动态规划入门必学之走方格问题 - Ofnoname PostgREST 与 PostgreSQL 角色权限配置全解析(生产级实践) - SheepDog1998 使用 UEFI 图形输出协议 GOP 在屏幕上显示图像的方法 - 阿源- Claude Code通关手册(五):组建你的AI专家团队,子代理系统 - 暮色之狐 一个程序员到架构师的催婚路之感悟(整整10年后的催婚相亲感悟) - MisterLip 用 Agent Skill 自动生成工作周报 - 赵康
基于netty的websocket服务优化
无所事事O_o · 2026-05-09 · via 博客园_首页

前言

  • 本文默认读者对netty有一定的使用经验,对于一些netty的基础概念不会说明
  • 本文主要探讨对于netty实现的websocket服务端推送数据的一些优化点,如果存在错误的地方欢迎指出,并且文中有说明不清晰的地方也欢迎留言讨论

开始喽

  • 通常我们使用如下的方式,创建一个基于netty的websocket服务,然后再此基础上进行业务开发。
// ai生成的demo
public class WebSocketServer {
    private final int port;
    public WebSocketServer(int port) {
        this.port = port;
    }

    public void run() throws Exception {
        EventLoopGroup bossGroup = new NioEventLoopGroup();
        EventLoopGroup workerGroup = new NioEventLoopGroup();
        try {
            ServerBootstrap b = new ServerBootstrap();
            b.group(bossGroup, workerGroup)
             .channel(NioServerSocketChannel.class)
             .handler(new LoggingHandler(LogLevel.INFO))
             .childHandler(new ChannelInitializer<SocketChannel>() {
                 @Override
                 protected void initChannel(SocketChannel ch) throws Exception {
                     ChannelPipeline pipeline = ch.pipeline();
                     // HTTP 编解码器
                     pipeline.addLast(new HttpServerCodec());
                     // HTTP 消息聚合器
                     pipeline.addLast(new HttpObjectAggregator(65536));
                     // WebSocket 协议处理器
                     pipeline.addLast(new WebSocketServerProtocolHandler("/ws"));
                     // 自定义 WebSocket 处理器
                     pipeline.addLast(new WebSocketFrameHandler());
                 }
             })
             .option(ChannelOption.SO_BACKLOG, 128)
             .childOption(ChannelOption.SO_KEEPALIVE, true);

            // 绑定端口并启动服务器
            ChannelFuture f = b.bind(port).sync();
            System.out.println("WebSocket 服务器启动,监听端口 " + port);

            // 等待服务器 socket 关闭
            f.channel().closeFuture().sync();
        } finally {
            workerGroup.shutdownGracefully();
            bossGroup.shutdownGracefully();
        }
    }

    public static void main(String[] args) throws Exception {
        int port = 8080;
        new WebSocketServer(port).run();
    }
}
  • 此时的websocket服务仅仅是最基础的版本,虽然可以用,但是在成本,性能,健壮性上仍存在一些优化空间,以下是一些优化点的原理介绍

快速订阅优化

如下图是客户端正常订阅websocket流程(不包括TLS)

交互流程

  • 在这个流程中客户端从建立连接到收到消息一共要经过3个rtt时间
  • 如果我们将协议升级和发送订阅请求合并,则可以减少1个rtt事件

快速订阅流程

在这里插入图片描述

  • 将协议升级和订阅请求合并后只需要2个rtt事件即可
  • 协议升级本质上是一次get请求,所以get请求中就可以携带参数
  • 握手成功后netty会触发一个userEventTriggered方法,传递HandshakeComplete事件,事件中会包含请求的uri,header,协议等数据,所以我们只需要实现一个userEventTriggered方法来处理这个事件中的数据,将订阅参数处理即可
  • 在网络延迟较大的客户端中,节省一个rtt的时间可能就有几十或者上百的毫秒节省
  • 下面这个代码是netty中WebSocketServerProtocolHandshakeHandler读接口实现,包含了上面提到的发送HandshakeComplete事件的逻辑,感兴趣的可以自己debug一下
public void channelRead(final ChannelHandlerContext ctx, Object msg) throws Exception {
        final HttpObject httpObject = (HttpObject) msg;

        if (httpObject instanceof HttpRequest) {
            final HttpRequest req = (HttpRequest) httpObject;
            isWebSocketPath = isWebSocketPath(req);
            if (!isWebSocketPath) {
                ctx.fireChannelRead(msg);
                return;
            }

            try {
                final WebSocketServerHandshakerFactory wsFactory = new WebSocketServerHandshakerFactory(
                        getWebSocketLocation(ctx.pipeline(), req, serverConfig.websocketPath()),
                        serverConfig.subprotocols(), serverConfig.decoderConfig());
                final WebSocketServerHandshaker handshaker = wsFactory.newHandshaker(req);
                final ChannelPromise localHandshakePromise = handshakePromise;
                if (handshaker == null) {
                    WebSocketServerHandshakerFactory.sendUnsupportedVersionResponse(ctx.channel());
                } else {
                    WebSocketServerProtocolHandler.setHandshaker(ctx.channel(), handshaker);
                    ctx.pipeline().remove(this);

                    final ChannelFuture handshakeFuture = handshaker.handshake(ctx.channel(), req);
                    handshakeFuture.addListener(new ChannelFutureListener() {
                        @Override
                        public void operationComplete(ChannelFuture future) {
                            if (!future.isSuccess()) {
                                localHandshakePromise.tryFailure(future.cause());
                                ctx.fireExceptionCaught(future.cause());
                            } else {
                                localHandshakePromise.trySuccess();
                                ctx.fireUserEventTriggered(
                                        WebSocketServerProtocolHandler.ServerHandshakeStateEvent.HANDSHAKE_COMPLETE);
                                // 发送握手成功事件
                                ctx.fireUserEventTriggered(
                                        new WebSocketServerProtocolHandler.HandshakeComplete(
                                                req.uri(), req.headers(), handshaker.selectedSubprotocol()));
                            }
                        }
                    });
                    applyHandshakeTimeout();
                }
            } finally {
                ReferenceCountUtil.release(req);
            }
        } else if (!isWebSocketPath) {
            ctx.fireChannelRead(msg);
        } else {
            ReferenceCountUtil.release(msg);
        }
    }
  • 除了上面这个快速订阅的过程可以节省1个rtt事件外,还可以和TCP Fast Open优化同时使用,可以再次节省一个rtt时间。这样可以将3个rtt压缩为1个rtt时间。
  • 不过这个优化暂时并没有应用到生产上,因此不过多介绍,感兴趣的可以自行查阅实现

数据压缩优化

压缩扩展

  • 如果推送数据较多时,通过压缩数据可以节省大量的网络流量。那么如何压缩数据就有多种选择,首先可以在业务层手动将数据压缩后发送出去。但是这种方式导致数据在业务层不可读,比如浏览器中会发现消息是乱码,无法查看。因此我们更推荐在传输层进行压缩
  • websocket协议中本身支持permessage-deflate扩展,permessage-deflate扩展主要用于将推送数据进行压缩处理。通过此扩展即可在发送后由框架自动将数据压缩
  • 具体实现只需要将WebSocketServerProtocolHandler处理器前面加上WebSocketServerCompressionHandler处理器,并且将WebSocketServerProtocolHandler处理器中的支持扩展参数配置为true,即可支持压缩功能
  • 下面是WebSocketServerProtocolHandler的其中一个构造函数,其中第3个参数allowExtensions配置为true则代表开启扩展功能
public WebSocketServerProtocolHandler(String websocketPath, String subprotocols,
                                          boolean allowExtensions, int maxFrameSize, boolean allowMaskMismatch,
                                          boolean checkStartsWith, boolean dropPongFrames) {
        this(websocketPath, subprotocols, allowExtensions, maxFrameSize, allowMaskMismatch, checkStartsWith,
             dropPongFrames, DEFAULT_HANDSHAKE_TIMEOUT_MILLIS);
    }

选择性压缩

  • 在开了压缩功能后,netty会默认将所有的BinaryWebSocketFrame和TextWebSocketFrame消息进行压缩,但是如果消息体较小,则可能额外消耗了cpu,但无法有比较好的压缩率,因此可以选择将超过一定大小的消息进行压缩
  • WebSocketExtensionFilter接口决定是否跳过扩展功能,只要实现这个接口并配置到netty中即可完成选择性压缩功能
@Component
public class CustomWebSocketExtensionFilter implements WebSocketExtensionFilter {
    @Resource
    private WebSocketConfig webSocketConfig;

    @Override
    public boolean mustSkip(WebSocketFrame frame) {
        if(frame instanceof TextWebSocketFrame || frame instanceof BinaryWebSocketFrame) {
        	// 小于一定长度的消息则跳过压缩,返回值代表是否跳过压缩
            if(frame.content().readableBytes() < webSocketConfig.getMinCompressionLength()) {
                return true;
            }
        }
        return false;
    }
}
  • 构造一个新的WebSocketServerExtensionHandler,替换掉WebSocketServerCompressionHandler即可,代码如下
@Component
public class WebSocketServerExtensionHandlerFactory {

    @Resource
    private CustomWebSocketExtensionFilter customWebSocketExtensionFilter;
    private CustomWebSocketExtensionFilterProvider customWebSocketExtensionFilterProvider = new CustomWebSocketExtensionFilterProvider();

    public WebSocketServerExtensionHandler newInstance() {
        return new WebSocketServerExtensionHandler(new PerMessageDeflateServerExtensionHandshaker(6,
                ZlibCodecFactory.isSupportingWindowSizeAndMemLevel(),
                PerMessageDeflateServerExtensionHandshaker.MAX_WINDOW_SIZE,
                false, false,
                customWebSocketExtensionFilterProvider
        ));
    }

    private class CustomWebSocketExtensionFilterProvider implements WebSocketExtensionFilterProvider {
        @Override
        public WebSocketExtensionFilter encoderFilter() {
            return customWebSocketExtensionFilter;
        }

        @Override
        public WebSocketExtensionFilter decoderFilter() {
            return WebSocketExtensionFilter.NEVER_SKIP;
        }
    }
}
  • 需要额外关注的一点是,写入数据时如果我们手动将一条消息依次发送给多个channel,则每个channel的管道都会将消息压缩一次,但是如果通过channelGroup将消息发送给多个channel,则消息只会压缩一次

缓冲区

缓冲区打满

  • tcp连接中每个连接都有自己的读写缓冲区,如果接收方接受数据过慢,那么最终会阻塞到发送方的写缓冲区
  • 但是由于netty是事件驱动的,因此当写缓冲区打满时,消息会堆积到内存中,直到把内存打满引发fullgc问题,因此推送数据时必须处理写缓存区打满的问题
  • 这个问题处理方式比较简单,netty中提供了是否可写的方法,当不可写入的时候丢弃掉消息就不会将消息堆积到内存,但是如果不关闭channel,则已经写入缓冲区的数据无法释放,直到连接断开或接收方接受了数据
public class WritableHandler extends ChannelOutboundHandlerAdapter {
    @Resource
    private WebSocketConfig webSocketConfig;
    @Resource
    private ChannelStore channelStore;

    @Override
    public void write(ChannelHandlerContext ctx, Object msg, ChannelPromise promise) throws Exception {
        if (!ctx.channel().isWritable()) {
            Channel channel = ctx.channel();
            // 释放掉消息,不进行推送
            ReferenceCountUtil.safeRelease(msg);
            if (webSocketConfig.isCloseNotWritableChannel() && ctx.channel().isOpen()) {
                // 根据配置决定是否关闭这个channel
                Monitor.counter("closeNotWritableChannel").end();
                channelStore.closeChannel(channel, CloseReason.NOT_WRITABLE);
            }

            return;
        }
        super.write(ctx, msg, promise);
    }
}

安全防护

  • 如果我们的websocket服务是对外暴露的,通常来讲需要一定的安全防护措施,避免外部用户恶意攻击我们的接口,比如如下限制
    • 相同ip的连接频率限制
    • 相同ip的最大连接数量限制
    • 同一连接接收消息频率限制
    • 同一连接最大连接时长限制
    • 违规操作过多时,禁用对方ip连接
  • 通过这些措施可以避免掉很多恶意流量,至于具体实现等后续再分享出来

结尾

如果还有其他可优化的方向,欢迎留言指点