惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

博客园_首页
T
Threat Research - Cisco Blogs
GbyAI
GbyAI
Y
Y Combinator Blog
美团技术团队
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
博客园 - 【当耐特】
S
SegmentFault 最新的问题
IT之家
IT之家
Recent Announcements
Recent Announcements
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
阮一峰的网络日志
阮一峰的网络日志
T
The Blog of Author Tim Ferriss
Martin Fowler
Martin Fowler
Microsoft Azure Blog
Microsoft Azure Blog
V
Visual Studio Blog
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
U
Unit 42
WordPress大学
WordPress大学
博客园 - Franky
L
LangChain Blog
人人都是产品经理
人人都是产品经理
小众软件
小众软件
博客园 - 叶小钗
罗磊的独立博客
酷 壳 – CoolShell
酷 壳 – CoolShell
大猫的无限游戏
大猫的无限游戏
云风的 BLOG
云风的 BLOG
Vercel News
Vercel News
雷峰网
雷峰网
腾讯CDC
Google DeepMind News
Google DeepMind News
博客园 - 三生石上(FineUI控件)
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
Help Net Security
Help Net Security
C
Check Point Blog
Hacker News - Newest:
Hacker News - Newest: "LLM"
N
News and Events Feed by Topic
V2EX - 技术
V2EX - 技术
Application and Cybersecurity Blog
Application and Cybersecurity Blog
Schneier on Security
Schneier on Security
博客园 - 聂微东
A
Arctic Wolf
H
Heimdal Security Blog
K
KPMG report finds enterprise disconnect between AI and its ROI | CIO
Recent Commits to openclaw:main
Recent Commits to openclaw:main
T
The Exploit Database - CXSecurity.com
C
Cyber Attacks, Cyber Crime and Cyber Security
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
Google DeepMind News
Google DeepMind News

博客园_首页

Linux实操--组管理、权限管理和定时任务 Java + EasyExcel 实现单个接口导出多个Excel Mem0 源码解析系列(二):提示词工程的深度剖析 Openclaw TaskFlow究竟是什么?和普通Skill技能有什么区别 博文阅读密码验证 - 博客园 嘉立创开源:应该是全网MicroPython教程最多的开发板 Hermes Agent 集成实践:从协议到生产 2026年AI编程工具横评:Cursor、Codex、Claude Code、Zed、Windsurf Java程序员必看的RAG入门教程 2026 AI效率神器:Superpowers + Claude Code 保姆级教程 本地大模型部署全攻略:从 0 到 1 玩转 Ollama 【从0到1构建一个ClaudeAgent】内存管理-上下文压缩 .NET 高级开发 | 设计、实现一个事件总线框架 电子小白入门之NE555 3. WorkBuddy:隐藏玩法,一键召唤专家,让 AI 以"专家身份"给你干活 和AI一起搞事情#3:Claude Teammate 游戏开发翻车实录 【OpenClaw】通过 Nanobot 源码学习架构---(7)Memory C# .NET 周刊|2026年3月3期 我在 Debian 11 上把 K8s 单机搭起来了,过程没你想的那么顺(/opt 目录版) 深度学习进阶(七)Data-efficient Image Transformer CLI+Skill搭建浏览器AI自动化框架,告别一切重复枯燥任务 告别Token账单无底洞:OpenClaw本地部署,重塑企业数据主权的唯一解 FastAPI+Vue:文件分片上传+秒传+断点续传,这坑我帮你踩平了! SBTI 爆火后,我做了个程序员版的 CBTI。。已开源 + 附开发过程 多模态检索开始进入工程期:用 Sentence Transformers 搭建可落地的 Multimodal RAG 100多行代码实现一个最简单的Agent(用ReAct) Claude Code 通关手册(八):推荐 5 个 Hooks,代码质量提升 3 倍 老板:“有人截图了!”。安全部门:“收到,马上查暗水印!” - why技术 技术之外,皆是人间 C#/.NET/.NET Core技术前沿周刊 | 第 69 期(2026年4.01-4.12) Snack JSONPath 项目架构分析 Claude Code Buddy 小析:一个非核心功能,如何体现产品的细节完成度 AI新时代下的图床管理方案-Cloudflare图床+MCP+Skills方案指南 化繁为简:顺丰速运App如何通过 HarmonyOS SDK实现专业级空间测量 从零实现富文本编辑器#13-React非编辑节点的内容渲染 AI开发-python-langchain框架(3-23-OpenAI Functions风格Tool Calling智能助手) .NET + AI 进阶实战:基于类的技能开发 - 打造可治理的 Agent 能力模块 【从0到1构建一个ClaudeAgent】规划与协调-技能 上周热点回顾(4.6-4.12) 电子小白的工具三件套:面包板、杜邦线、万能板 单表五亿数据的查询优化 | Mysql、StarRocks 2. WorkBuddy:从“我是谁”到“帮我干活” C# 如何减少代码运行时间:7 个实战技巧 基于HelixToolkit.SharpDX 渲染3D模型 - 笺上知微 从零开始的双臂具身VLA起源及现阶段发展综述 - SkyXZ 记对 xonsh shell 的使用, 脚本编写, 迁移及调优 - pluvium27 受够了Vibe Coding的失控?换个起点,让AI事半功倍 从开始配置漏洞环境到漏洞复现流程 - 難しい 关于10年工作经验的程序员对OpenClaw的实战经验分享以及看法 - 虚无境 Any metadata 的内存布局 C# .NET 周刊|2026年3月2期 - InCerry 我帮你测过了,测试圈排名第二的 Skill 依然很牛逼 Skill Discovery | 无监督技能发现的经典工作总结 - MoonOut PbootCMS 网站内容数量多导致访问慢?这些实用优化方案帮你提速! - 家兴网络技术工作室 上下文工程是什么?过时了么?一文讲明白! - 一枫说码 网站漏洞怎么发现并修复?一篇实用指南(附完整流程) - 家兴网络技术工作室 开了 TUN 模式还是直连?90% 的人都踩过这个坑 Github日报|2026年04月12日 - AI一族 AScript扩展多种脚本语言 - rockey627 AI 学习笔记:Agent 的记忆机制 你能被装进一个文件里吗?——7 万人把同事"蒸馏"成了 AI - 我没有三颗心脏 Claude Code 通关手册(七):给 AI 装上技能包——Skills 完全指南 - 暮色之狐 在浏览器中快速编辑代码:VSCode Web 集成实践 - Newbe36524 蒸馏自己 skill?基于 Deepseek 的蒸馏器,丐版蒸馏方式,简单便捷 - To_Carpe_Diem Spring AI Aliababa和AgentScope,哪个更好? - 苏三说技术 Etsy 把 1000 个 MySQL 分片迁进 Vitess:425TB 数据背后的真正问题不是性能,而是运维规模 MicroPython LVGL基础知识和概念:底层渲染与性能优化 - FreakStudio 数据库草图算法 Python 潮流周刊#146:CPython 引入 Rust 的进展 - 豌豆花下猫 最小生成树 - mofei1116 红日靶场七:从外网入口、容器逃逸到 AD 接管的完整利用链复盘 - YouDiscovered1t 分享四款开源且实用的 Kafka 管理工具 - 追逐时光者 vLLM 权重加载机制全解析:从挑战到理想架构 LCT 学习笔记 - ACehomoxue Avalonia UI 12.0.0 正式发布:架构演进和性能飞跃 - 张善友 当 AI Agent 把调用链拉长,延迟开始成为一门生意 conhost.exe 无法显示 U+2717 - 145a 太秀了,我把自己蒸馏成了 Skill!已开源 - 程序员鱼皮 ASP.NET Core 内存缓存实战:一篇搞懂该怎么配、怎么避坑 基于 Ghostty 带有分割标签页和为 Claude 编程设计的通知终端 - BugShare AI 焊死入口:教育的“操作系统级”重塑 - 郝hai 初级Java开发工程师使用sql脚本编写代码的过程是简单而且不糊涂 - CoderOilStation Claude Code通关手册(六):MCP协议完全指南 - 暮色之狐 边框灯光环绕动画特效实现指南 - Newbe36524 开源:子木蒸馏版的 SEO 审计工具 seo-audit-skill v1.0 我所理解的Python元模型 【从0到1构建一个ClaudeAgent】规划与协调-TodoWrite - 程序员Seven Claude 和 Codex 在审计 Skill 上性能差异探究 - ACai_sec AScript如何实现中文脚本引擎 - rockey627 【渗透测试】HTB Season10 Garfield 全过程wp - dynasty_chenzi Android 开发者为什么必须掌握 AI 能力?端侧视角下的技术变革 树状数组正确性证明 - AC-wyr 你的 AI 焦虑,可能比 AI 本身更危险——ATM 机没有消灭银行柜员,但恐慌消灭了你的判断力 - 我没有三颗心脏 一个拉胯的分库分表方案有多绝望?整个部门都在救火! - 冰河团队 动态规划入门必学之走方格问题 - Ofnoname PostgREST 与 PostgreSQL 角色权限配置全解析(生产级实践) - SheepDog1998 使用 UEFI 图形输出协议 GOP 在屏幕上显示图像的方法 - 阿源- Claude Code通关手册(五):组建你的AI专家团队,子代理系统 - 暮色之狐 一个程序员到架构师的催婚路之感悟(整整10年后的催婚相亲感悟) - MisterLip 用 Agent Skill 自动生成工作周报 - 赵康
你还不知道的 Flink 调优手段:Task 调度策略
tonyabasy · 2026-06-25 · via 博客园_首页

本页介绍 均衡任务调度策略 的背景与原理,以及如何在运行流式作业时使用该功能。

背景

当 Flink 流式作业中所有顶点(Vertex)的并行度不一致时,Flink 默认策略的任务部署有时会导致某些 TaskManager 分配到的任务较多,而其他 TaskManager 分配到的任务较少,从而造成任务较多的 TaskManager 资源利用率过高,成为整个作业处理的瓶颈。

任务调度倾斜示例

如图 (a) 所示,给定一个包含两个顶点的 Flink 作业:JobVertex-A(JV-A)JobVertex-B(JV-B),并行度分别为 63,且两个顶点共享同一个 Slot 共享组。在默认任务调度策略下,如图 (b) 所示,各 TaskManager 上的任务分配可能出现较大差异。具体而言,任务最多的 TaskManager 可能承载 4 个任务,而任务最少的 TaskManager 可能只有 2 个任务。因此,承载 4 个任务的 TaskManager 很容易成为整个作业的性能瓶颈。

为此,Flink 提供了基于任务数量的均衡任务调度策略能力。在作业的资源视图中,它旨在使分配到每个 TaskManager 的任务数量尽可能接近,从而改善 TaskManager 之间的资源利用率偏差。

注意:并行度不一致并不意味着必须使用该策略,因为在实际场景中并不总是出现上述问题。


原理

基于任务数量的均衡任务调度策略通过两个阶段完成任务到 TaskManager 的分配:

  • 第一阶段:任务到 Slot 的分配
  • 第二阶段:Slot 到 TaskManager 的分配

本节将通过两个示例来说明该策略在这两个阶段中的简化流程与原理。

第一阶段:任务到 Slot 的分配

以图 (c) 所示的作业为例,该作业包含 5 个 JobVertex,并行度分别为 14423,且它们均属于默认 Slot 共享组。

任务到 Slot 分配原理示意图

在任务到 Slot 的分配阶段,该调度策略执行以下操作:

  • 直接分配最高并行度顶点的任务:将并行度最高的顶点的第 i 个任务直接分配到第 i 个 Slot。即,任务 JV-Bi 直接分配到 sloti,任务 JV-Ci 直接分配到 sloti
  • 轮询分配其余顶点的任务:对于并行度低于最高并行度的其他顶点,在当前 Slot 共享组的各个 Slot 之间以轮询(Round-Robin)方式依次分配任务,直到所有任务分配完毕。

如图 (e) 所示,在基于任务数量的分配策略下,每个 Slot 中的任务数量范围(最大值与最小值之差)为 1,优于默认策略下图 (d) 中范围为 3 的情况。这确保了各 Slot 之间任务数量的更均衡分布。

第二阶段:Slot 到 TaskManager 的分配

如图 (f) 所示,给定一个包含两个顶点 JV-AJV-B 的 Flink 作业,并行度分别为 63,且两者共享同一个 Slot 共享组。

Slot 到 TaskManager 分配原理示意图

第一阶段分配完成后的结果如图 (g) 所示:Slot0Slot1Slot2 各包含 2 个任务,其余 Slot 各包含 1 个任务。

随后:

  • 该策略提交所有 Slot 请求,并等待当前作业所需的全部 Slot 资源就绪

一旦 Slot 资源就绪:

  • 该策略按 Slot 中包含的任务数量对所有 Slot 请求进行降序排序
  • 随后,依次将每个 Slot 请求分配给当前任务负载最小的 TaskManager,直到所有 Slot 请求分配完毕。

最终分配结果如图 (i) 所示,每个 TaskManager 恰好承载 3 个任务,TaskManager 之间的任务数量差异为 0。相比之下,在默认策略下(如图 (h) 所示),TaskManager 之间的任务数量差异为 2

因此,如果您遇到上述性能瓶颈问题,使用该负载均衡任务调度策略可以提升性能。但如果您没有遇到上述瓶颈,请不要使用该策略,否则可能导致性能下降。


使用方法

您可以通过以下配置项启用均衡任务调度策略:

  • taskmanager.load-balance.mode: tasks

注意:在故障恢复场景中,当资源被释放并处理资源请求时,资源视图的延迟更新可能导致分配结果不够均衡。此时,您可以通过适当增大 slot.request.max-interval 的值来改善这一情况。例如,可以每次尝试增加 50 毫秒进行调整。提高该值会使 Slot 请求和可用资源视图在作业调度期间更加稳定,从而使任务能够尽可能均衡地分配。但这也会相应延长任务调度阶段的整体时长,从而增加 slot.request.timeout 参数超时的风险。需要强调的是,如果在充分增大该选项值后仍出现非最优任务均衡的情况,可在 FLINK-38715 中报告,报告内容应包括调度相关配置的描述和观察到的现象。


更多详情

请参阅 FLIP-370 了解更多详情。


原文链接:Balanced Tasks Scheduling | Apache Flink