惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
酷 壳 – CoolShell
酷 壳 – CoolShell
博客园_首页
Engineering at Meta
Engineering at Meta
量子位
A
About on SuperTechFans
阮一峰的网络日志
阮一峰的网络日志
Recent Announcements
Recent Announcements
博客园 - 司徒正美
V
Visual Studio Blog
H
Hackread – Cybersecurity News, Data Breaches, AI and More
The GitHub Blog
The GitHub Blog
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
F
Fortinet All Blogs
Martin Fowler
Martin Fowler
腾讯CDC
Jina AI
Jina AI
C
Check Point Blog
H
Help Net Security
罗磊的独立博客
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
V
V2EX
爱范儿
爱范儿
I
InfoQ

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理,
三位一体集成监控方案在指标预警中的探索研究
佑佑和博博~ · 2024-07-18 · via 人人都是产品经理

企业对于业务指标的监控变得尤为重要。面对日常运营中指标波动的挑战,如何有效识别异常波动,既避免漏报也减少错报,是每个数据驱动型企业需解决的问题。本文提出了一种集成监控方案,结合阈值、3sigma和时间序列方法,以app日活指标为例,展示了如何实现对业务指标的精准监控和异常预警。

一、应用场景

在日常工作中,我们经常面临指标波动的挑战。比如,当DAU指标环比下降10%,我们是否应该触发监控机制呢?为了有效地识别指标异常,我们需要解决两个核心问题:

  1. 避免漏报,即确保能够准确地识别异常波动,从而最小化对业务的影响;
  2. 减少错报,即避免错误预警,减少不必要的排查工作,以节约人力资源。

本文将介绍一种集成监控方案,能更有效地识别业务指标中的异常情况。

二、解决方案

以app日活指标为例,设计基于阈值、3sigma、时间序列于一体的集成监控方案。

介绍如何实现对日活进行监控,识别指标异常。

1. 基于阈值的监控方案

基于阈值的监控方案,主要依赖个人经验设置指标阈值。通常适用于振幅相对平缓的业务数据指标,通常采用的方式有:

  • 基于历史数据观测值设置监控阈值,将异常上限设置在历史数据正常值最高点附近,下限设定在最低点附近,一旦业务指标超过设置的上限、下限值触发监控;
  • 基于同环比设置监控阈值,基于历史数据同环比波动范围,将阈值设置在同环比历史数据峰值、谷峰附近,当业务指标超过设定值触发监控。

2. 基于3sigma监控方案

3sigma准则通常适用于对正态或近似正态分布的业务数据,若数据服从正态分布,对数据指标进行计算处理得到标准偏差,按与平均值的偏差在三倍标准差范围内来确定数据分布区间,区间外的指标值则判定为异常值。

即业务指标在满足正态分布的前提下,距离指标平均值3倍标准差之外的值出现的概率很小(P(|x−μ|>3σ)≤0.003),若在区间外则可认为是异常值。

若数据不服从正态分布,也可以用距离平均值多少倍标准差来描述,但sigma系数需要根据业务数据分布情况来判定。

3. 基于时间序列的监控方案

前文提到数列呈现平稳波动或者服从正态分布的情况,在实际生产过程中,业务指标往往会表现出周期性、趋势性规划。

前两种监控方案往往会出现错报现象,比如在电商节、节假日、周年庆等时期,数据波动较大,前面基于阈值以及3sigma原则的监控往往会误报、触发监控导致不必要排查上的人力投入。

基于时间序列监控方案考虑到业务指标季节性和周期性变化对具体时间点的影响,从业务数据指标历史时间序列中找出变量变化的特征,利用统计学方式预测变量未来趋势以及发展规律,从而测算出预测值。

通过预测值与真实值的偏差程度来识别是否是异常,通常会使用平均绝对百分比误差(MAPE)指标来衡量,如MAPE超出所给的设定值,则判断为异常,从而触发异常监控。以日活指标(t-1)为例。

通过t-2前的历史数据构建预测模型,来预测t-1天的日活值,当业务数据集在t-1天更新指标值(真实值)。

通过计算预测值与真实值之间的平均绝对百分误差来度量偏差程度,依据模型训练精度设定阈值。当触发该阈值时,触发监控进行异常预警。

综上所述,集成监控根据业务指标数列特征构建相应的监控模型来进行异常的识别与预警,整体解决方案如下图:

三、应用案例

以下是以app日活为例,将基于阈值、3sigma、时间序列于一体的监控方案运用在其指标异常监控上。

为举例方便,我们采用2022年10月到12月期间3个月业务数据样本。

1. 基于阈值的监控方案

通过计算样本环比最大波动值为23.9%(见下图),可以将阈值设置为该值,当日活环比值超过阈值,如25%超过阈值(23.9%)时,则触发异常监控。

该方案也可以根据样本最大值、最小值来进行阈值监控,当业务指标超过最大、最小值范围时触发监控。

2. 基于3sigma的监控方案

基于上文提到的3sigma准则,我们计算出近3个月的均值、标准差值,在数据呈现近似正态分布情况下,业务指标数据落在数值分布在(μ-3σ,μ+3σ)中的概率约为99.7%,若指标数据落在该区间外,我们则判定为异常值,从而触发监控。

3. 基于时间序列的监控方案

进行时间序列预测前,先可以将指标拆分成4部分:

(a)趋势性;(b)季节性;(c) 周期性;(d)随机噪声。

通过观察分解图,来初步识别业务数据指标序列是否平稳。

如果数据是平稳的,可以使用传统的自回归平均移动模型(ARMA);如果数据是不平稳的,可以使用差分移动自回归平均移动模型(ARIMA)。

在实际应用中,我们会发现传统模型的预测精度效果相对较差,这里我们采用SVR模型来进行预测,对于SVR模型,最主要的参数就是C(惩罚系数)和gamma(核函数自带参数)。

对于C和gamma参数的确定可以通过交叉验证的方法来进行确定,本文采取的是粒子群算法,通过粒子群算法初始化随机解,根据迭代找到最优解。

模型效果如下:

我们可以将真实值与预测值的误差上限设定为6%,这个设定通常会略高于平均绝对百分比误差值(MAPE)的数值(如上图3.79%)。

当误差超过6%的阈值时,将会触发异常监控,及时发现并处理异常情况。

这样可以确保我们对预测值的准确性进行有效监控和控制。

以2023年1.1-2.28期间日活数据为例,监控体系各方案效果,如下:

在日活数据监控中,考虑日活指标的周期性、趋势性采用时间序列模型较合适,从上图的监控效果中,基于时间序列的监控方案效果也是3种方案中最好的,在业务预警中,我们可根据业务数据本身的规律来选取最合适的监控方案。

本文由 @佑佑和博博~ 原创发布于人人都是产品经理,未经许可,禁止转载

题图来自Unsplash,基于 CC0 协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。