惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

GbyAI
GbyAI
Microsoft Azure Blog
Microsoft Azure Blog
Jina AI
Jina AI
Hugging Face - Blog
Hugging Face - Blog
A
About on SuperTechFans
Y
Y Combinator Blog
D
DataBreaches.Net
I
InfoQ
Recent Announcements
Recent Announcements
Last Week in AI
Last Week in AI
G
Google Developers Blog
博客园_首页
博客园 - 司徒正美
V
V2EX
Stack Overflow Blog
Stack Overflow Blog
博客园 - 叶小钗
Engineering at Meta
Engineering at Meta
Apple Machine Learning Research
Apple Machine Learning Research
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
B
Blog
MongoDB | Blog
MongoDB | Blog
博客园 - 【当耐特】
D
Docker
量子位

InfoQ - 促进软件开发领域知识与创新的传播

Meta 收购 Manus 这事儿泡汤了 5.5万 Star 开源项目 Ghostty 被迫出走,GitHub 正在终结一代技术人的乌托邦 Slack 长时运行多智能体系统的上下文管理方案 从 T+1 到分钟级:金城银行基于 Apache Doris 构建高可靠、强一致的实时数据平台 谷歌云推出 Agents CLI,简化 AI 智能体开发全流程 Claude官方击穿高薪、高学历的安全防线!Anthropic点名10大高危职业,但有群人暂时稳了 亚马逊云科技终止 WorkMail 服务,并将 App Runner 转入维护模式 OPPO小布记忆:全模态碎片化内容的理解与智能整理实践|AICon上海 模力工场038周AI应用周榜:工具在消失,工作流在出现 Akamai CEO Tom Leighton:Agent 时代来临,云基础设施正从“中心化”转向“分布式边缘” 日均数百亿入库背后:从“人肉调度”到K8s弹性架构,度小满金融基于OceanBase重构入库架构实践 百度文库网盘发布GenFlow 4.0:月活用户超1亿,要把网盘变成全端AI工作台 Altman 投的 Agent 终端 Warp 开源了!斩获3.5万star 哪些客户需要拒, 敢让龙虾决定吗?_AI&大模型_InfoQ 中文站_InfoQ精选视频 从开发到生产:为什么越来越多的机器学习团队纷纷迁移到 Snowflake | BUILD 2025_AI&大模型_王玮_InfoQ精选视频 探索多智能体工作流:LangGraph Snowflake Cortex AI | BUILD 2025_AI&大模型_王玮_InfoQ精选视频 腾讯云分布式缓存数据库:AI Agent - 从提示词工程到 Harness 工程 | 腾讯云数据库 DBTalk_腾讯_凌敏_InfoQ精选视频 基于 Streamlit 为 CSV 数据构建分析智能体 | BUILD 2025_AI&大模型_王玮_InfoQ精选视频 AI 智能体:告别文档缺漏 | BUILD 2025_AI&大模型_王玮_InfoQ精选视频 构建 AI 驱动的数据管道:深度探讨 Snowflake Openflow 与非结构化数据 | BUILD 2025_AI&大模型_王玮_InfoQ精选视频 云端太贵、本地不够聪明,英特尔押注“端云混合AI”:智能体PC会替人完成工作 不到10%的存储投入,可能拖垮90%的GPU投资!IBM把AI Agent塞进存储系统,算清企业最容易忽略的一笔账 Snowpark 上手实战 | BUILD 2025_大数据_王玮_InfoQ精选视频 ClickHouse + Langfuse,构建 Agent 可观测基石 腾讯云分布式缓存数据库:Cluster Proxy 共享连接架构深度解析 | 腾讯云数据库 DBTalk_腾讯_凌敏_InfoQ精选视频 AI 写代码太烧钱了:Copilot、Claude 一起涨价,不如把程序员请回来? 英特尔发布至强600系列工作站处理器与锐炫Pro B70 GPU,全新AI工作站来了 腾讯云分布式缓存数据库:从 Redis 到 Valkey - 开源社区如何快速创新 | 腾讯云数据库 DBTalk_腾讯_凌敏_InfoQ精选视频 印奇这次要“从0重做”智驾模型!首谈阶跃和千里双公司布局:中国AI商业闭环要靠车跑出来 从Cursor返聘归来,90后华裔女高管带Claude开启日更模式:token成本比工程师工资低多了!
Netflix如何实时绘制数千个微服务的拓扑图
作者:Claudio Masolo张卫滨 · 2026-06-23 · via InfoQ - 促进软件开发领域知识与创新的传播

Netflix分享了有关 Service Topology 的细节。该内部系统为数千个微服务创建并维护一个实时依赖关系图,帮助工程师了解服务如何互相连接并更快地解决问题。系统将三类独立数据源合并到一个可查询的图中,并会在流量模式发生变化时实现近实时的更新。

开发该系统的动机来自于过去四年中在工程支持请求中反复出现的模式。调试分布式系统的工程师经常面对相同的问题,那就是他们需要知道哪些服务是相互依赖的,他们会询问某次变更或故障的影响范围(blast radius),以及判断问题是发生在本地还是来自上游依赖。现有的可观测性工具、指标、日志和追踪各自只捕捉了部分信息,但没有提供运行时服务连接的统一视图。

系统从三类来源摄取数据,每类数据保存在独立的图分区中。基于 eBPF 的网络流量日志在内核层捕获数据,即使服务没有做插桩也能获得完整的视图,但缺少应用层上下文信息(例如,被调用的是哪个 API 端点)。由已加入插桩的服务发出的 IPC 指标能够提供端点和协议级别的细节信息,但仅限于那些主动上报的服务。汇总的分布式追踪能揭示真实的请求路径(含条件分支),但受到采样的限制。每一层都弥补了其它层的不足,查询可以只针对某一层,也可以并行合并三层数据进行分析。

为了解决原始网络流量数据的关键问题,系统采用了一个三阶段的聚合流水线。日志会记录通过负载均衡器和 NAT 网关等中间服务的每一跳,但它们并不能直接展示工程师需要的应用到应用的直接连接。第二阶段执行中间服务的解析,将多跳路径折叠为直接的边。分级的方法分摊了负载,也有助于在某些中间服务流量过大时防止出现热点。

Netflix 方法:三类事实来源

流水线处理是在跨区域的 Kafka 消费者上使用Apache Pekko Streams 来运行的。图存储构建在 Netflix 内部的分布式键值系统之上,并采用专为快速遍历而设计的图数据库层。通过 gRPC API 暴露拓扑,支持多跳查询、按可用性等级和业务域过滤,并将亚秒级(sub-second)响应时间作为硬性要求。

历史查询使用时间窗口聚合而不是保留独立的快照,这样可以在不产生高存储成本的情况下查看过去某一时间点的拓扑。团队认为这对将依赖关系变化与事件发生时间进行关联非常有帮助。

团队指出,一些设计决策来自早期失败尝试的教训。在每天部署多次的环境中,静态或有延迟的依赖映射证明毫无用处。能在小规模下工作的解决方案在 Netflix 的服务数量和流量规模面前会遇到瓶颈。而不完整或不正确的依赖数据反而比没有数据更糟,因为它会在事故中误导工程师得出错误结论。

未来的工作将包括把部署事件和配置变更事件加入拓扑图。从长远来看,团队希望用该图作为自动化根因分析的基础。

Netflix 的这篇文章发布在一个公开工程写作相对稀少的领域。近期,大多数关于服务依赖映射的公开工作,要么止步于 OpenTelemetry 的 Service Graph Connector 能从追踪中推导出的内容,要么把依赖图视为其他事情的基础设施支持,例如,Cloudflare 的 AI 智能体上下文或 Stripe 的指标迁移项目。

至今还没有其他团队以相同深度公开分享如何在这样的规模下构建一个多源、存储于图数据库、近实时的拓扑系统。这要么是因为在 Netflix 这样的服务数量面前该问题确实罕见,要么是因为解决了该问题的团队将其视为竞争优势而将方案保留为内部资料。

查看英文原文:How Netflix Maps Thousands of Microservices in Real-Time