惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

G
Google Developers Blog
博客园 - 聂微东
J
Java Code Geeks
Engineering at Meta
Engineering at Meta
Jina AI
Jina AI
D
Docker
B
Blog
S
SegmentFault 最新的问题
宝玉的分享
宝玉的分享
D
DataBreaches.Net
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
Y
Y Combinator Blog
N
Netflix TechBlog - Medium
月光博客
月光博客
F
Fortinet All Blogs
爱范儿
爱范儿
H
Help Net Security
腾讯CDC
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
WordPress大学
WordPress大学
The Cloudflare Blog
有赞技术团队
有赞技术团队
T
Tailwind CSS Blog
U
Unit 42

博客园 - 大汪的数据之路

外企的问卷调查 10 Tips On How To Be Exceptional In Anything You Do(在所做的任何事情上变得卓越的10个方法) 企业网络环境全景解析——面向AI智能数据分析场景的数据工程师指南 数据虚拟化技术解析:从概念到实践 数据虚拟化:从“搬运数据”到“连接数据”的范式革命 数据“搬砖”实战经验 星环大数据使用体验 vibe coding使用体验 基于SQL实现分组的文字排序聚合 数据码农马年大吉 字符串分割并展开成表格的SQL实现方法 BI报表及可视化分析类工具使用经验总结(下) BI报表及可视化分析类工具使用经验总结(上) 基于Python实现自动化微信通知和预警 Chat2DB测试体验 常用数据管理工具与平台汇总 OneID系统建设实践总结 网易有数BI使用总结 网易NDH大数据平台使用经验 版本管理总结 程序自动化vs人工手动处理 SQL开发总结 数据平台使用经验 数据团队运维值班任务简介 Python环境安装、管理与部署 windows获取kerberos认证 SQL动态长度行列转置 ODI Scenario 场景 Oracle KEEP 分析函数
数据运维值班预警自动化
大汪的数据之路 · 2026-08-12 · via 博客园 - 大汪的数据之路

一、背景:

  每日早晨6点,数据运维团队要检核各类数据系统及夜间跑批任务是否正常运行。若一切正常,则需要在团队微信群中发一条消息,告知正常。若异常,需要当日值班人员进行排查处理,并在业务上班9点之间将问题解决,保证各类报表或数据服务中的数据准确及时。由于系统及任务众多且复杂,值班人员要人工从大量的系统通知邮件中,检查十多封关键的预警邮件,判断当日数据系统和批次任务是否正常,该过程耗时耗力,且容易因为粗心导致误判漏判,因此考虑通过编写自动化脚本将运维值班预警工作自动化,最大化的减少人工的操作量,降低操作风险。

二、自动化预警方案:

  1,邮件汇总方案:

  目前各类数据离线批次任务都设置了邮件通知,正常或者失败都会发一封邮件至数据团队成员的邮箱。通过编写python代码,过滤出重要的值班监控预警邮件,汇总后将邮件正文统一推送至企业微信。值班人员可以清晰的看出当日各类系统是否有异常,企微消息如下图所示(采用Markdown格式)。

image

  2,独立运行检核规则:

  将值班运维检核规则从各类系统中独立抽取出来,全部放在统一的脚本中进行调用。将检核结果统一以邮件形式发送出来,并推送至企微机器人。

d85dd56f-6a74-4679-bca3-7eb260029ebd

87795383-8664-457f-af19-39e1b7c657a6