惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

WordPress大学
WordPress大学
大猫的无限游戏
大猫的无限游戏
酷 壳 – CoolShell
酷 壳 – CoolShell
博客园 - 叶小钗
月光博客
月光博客
Last Week in AI
Last Week in AI
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
人人都是产品经理
人人都是产品经理
阮一峰的网络日志
阮一峰的网络日志
罗磊的独立博客
IT之家
IT之家
美团技术团队
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
Hugging Face - Blog
Hugging Face - Blog
博客园_首页
S
SegmentFault 最新的问题
宝玉的分享
宝玉的分享
博客园 - Franky
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
Jina AI
Jina AI
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
The Cloudflare Blog
博客园 - 司徒正美
爱范儿
爱范儿

博客园 - 大汪的数据之路

外企的问卷调查 10 Tips On How To Be Exceptional In Anything You Do(在所做的任何事情上变得卓越的10个方法) 企业网络环境全景解析——面向AI智能数据分析场景的数据工程师指南 数据虚拟化技术解析:从概念到实践 数据虚拟化:从“搬运数据”到“连接数据”的范式革命 数据“搬砖”实战经验 星环大数据使用体验 vibe coding使用体验 基于SQL实现分组的文字排序聚合 数据码农马年大吉 字符串分割并展开成表格的SQL实现方法 BI报表及可视化分析类工具使用经验总结(下) BI报表及可视化分析类工具使用经验总结(上) 基于Python实现自动化微信通知和预警 Chat2DB测试体验 常用数据管理工具与平台汇总 OneID系统建设实践总结 网易有数BI使用总结 网易NDH大数据平台使用经验 版本管理总结 程序自动化vs人工手动处理 SQL开发总结 数据平台使用经验 数据团队运维值班任务简介 Python环境安装、管理与部署 windows获取kerberos认证 SQL动态长度行列转置 ODI Scenario 场景 Oracle KEEP 分析函数
数据运维值班预警自动化
大汪的数据之路 · 2026-08-12 · via 博客园 - 大汪的数据之路

一、背景:

  每日早晨6点,数据运维团队要检核各类数据系统及夜间跑批任务是否正常运行。若一切正常,则需要在团队微信群中发一条消息,告知正常。若异常,需要当日值班人员进行排查处理,并在业务上班9点之间将问题解决,保证各类报表或数据服务中的数据准确及时。由于系统及任务众多且复杂,值班人员要人工从大量的系统通知邮件中,检查十多封关键的预警邮件,判断当日数据系统和批次任务是否正常,该过程耗时耗力,且容易因为粗心导致误判漏判,因此考虑通过编写自动化脚本将运维值班预警工作自动化,最大化的减少人工的操作量,降低操作风险。

二、自动化预警方案:

  1,邮件汇总方案:

  目前各类数据离线批次任务都设置了邮件通知,正常或者失败都会发一封邮件至数据团队成员的邮箱。通过编写python代码,过滤出重要的值班监控预警邮件,汇总后将邮件正文统一推送至企业微信。值班人员可以清晰的看出当日各类系统是否有异常,企微消息如下图所示(采用Markdown格式)。

image

  2,独立运行检核规则:

  将值班运维检核规则从各类系统中独立抽取出来,全部放在统一的脚本中进行调用。将检核结果统一以邮件形式发送出来,并推送至企微机器人。

d85dd56f-6a74-4679-bca3-7eb260029ebd

87795383-8664-457f-af19-39e1b7c657a6