惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

博客园 - 三生石上(FineUI控件)
博客园 - Franky
GbyAI
GbyAI
B
Blog
WordPress大学
WordPress大学
D
Docker
小众软件
小众软件
月光博客
月光博客
博客园 - 【当耐特】
T
The Blog of Author Tim Ferriss
IT之家
IT之家
腾讯CDC
Engineering at Meta
Engineering at Meta
Vercel News
Vercel News
H
Help Net Security
M
MIT News - Artificial intelligence
L
LangChain Blog
云风的 BLOG
云风的 BLOG
S
SegmentFault 最新的问题
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
美团技术团队
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
V
V2EX
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理,
任务治理篇 | 规范性治理都规范些什么
数据小吏 · 2024-12-23 · via 人人都是产品经理

“任务规范性治理,保障平台高效运行。” 在数据管理领域,任务治理至关重要。规范性治理究竟涵盖哪些内容?又如何有效实施?

在本篇开始的时候,提到任务治理可以从两个方面来做,一个是通过端到端的任务血缘链路来了解平台任务,从而进行治理。另一个就是建立一些规范性的任务,来进行主动治理。这里就介绍一下主动的任务治理。

这里的规范性治理治理的内容都是些什么那?这个产品功能仅仅提供一些思路,设计的过程中,也并无觉得特别的通顺。好多地方也感觉并不是特别好的形式,但是有没有思路想出更好的形式。

在主动治理时,治理的对象是:任务、表、数据服务API。可以大概分成四类:存储治理、计算治理、规范性治理、数据服务API治理。

一、存储治理

存储治理的对象主要针对表,通过治理的规则,识别出来可以被下线的表,从而将表的进行下线。来节省存储空间。

在进行治理的时候,主要是通过治理的规则,来对具体的空间,建立治理任务,从而识别出来需要治理的任务。

治理规则有哪些,举例说几个:近180天读取次数为0、近180天无更新表、表创建180天仍为空,等等。这里面的数值都是用户可配置的,通过一个规则模版,来配置自己需要的规则。通过这些规则创建的任务,周期性运行之后来识别出来可以被下线的表,从而实现表的主动治理。

二、计算治理

计算治理的逻辑也是相同的,他的治理对象是任务,通过计算治理规则来创建治理任务,从而识别出来需要被下线的任务,将任务下线。从而实现任务的主动治理。

计算治理的规则都有哪些,这里也举些例子:无下游依赖、近90天无运行、产出目标表为空、近七日资源消耗TOP30、近七日运行耗时TOP30。

通过诸如此类的规则,来创建规则任务,从而实现任务的主动治理。

三、规范治理

规范治理针对的对象仍旧是表,只不过相较于存储治理监控的表里面的内容,这里更多的是对表的建表规范做监控。

举些例子来看一下:

单一事实表建模

建模的时候只使用了一张上游表,这个时候是不是需要考虑建模的合理性。如果多张包的使用同一个单一表上游,是不是这多张下游表数据是重复的。这个规则从模型层面,来进行一个任务治理。

表描述或表中文名缺失、表层级信息缺失、表负责人缺失

这些均是一些表的属性信息缺失,能够明确将信息缺失的表给扫描出来,然后进行治理。从而完全表的描述。

临时表名称、命名不符合规范

这个事从表命名规范上来进行规范治理,确定这些临时表名称位置是否合理,正式的表是不是符合了表的命名规范。

跨层级取数、反向依赖、环状链路

这些主要是从数据流向的角度进行的规范化,当然,这种数据的流向可能并不一定能够这个明显的发现,比如环状链路,几个节点形成环,才算环状。这些在具体实现的时候都需要依据技术的实现程度来进行具体分析了。

四、数据服务API治理

数据服务的规则,相对简单,目前只想到一个,就是通过常时间没有调用的来找到可以下线的数据服务API。

近90天调用次数为0

90天了API仍旧没有人调用,是不是需要统计出来进行下线了。

五、发现待治理任务之后更加复杂

上面说的通过这种类型的规则,来发现待治理或者待规范化的表、任务,这个过程可能不复杂。复杂的是,发现了之后怎么办?

如果某张表下线之后,下游影响了谁,不会造成大范围的问题?谁依赖了将下线的任务,真的下线是否会影响第二天任务运行?

对于虽然识别出来了,但是明确表示仍然被使用,不需要下线的,是否需要有白名单功能,来让下次扫描时,不进行扫描?如果有了白名单如何避免,一加白名单了之的粗暴操作?

是不是需要一个暂时下线能力,如果第二天发现影响其他任务,再立即恢复?

搜描之后为了敦促开发人员进行治理操作,是不是需要有一个报表能力,定期进行排名、打分,推进治理的落地。

所以说,发现了待治理任务之后更加复杂,这一部分如何能够流畅的操作,是需要好好考虑设计下的。

而且,在这个过程中也需要端到端的任务血缘链路,来更好的进行全局的了解。为下线操作提供依据。

六、在什么阶段做

在规则中的90天、30天等等数量都是可配置的,可以根据具体的条件,设置为180天、365天等等。但是不管多少天,都是系统已经运行了一段时间,已经有大量的表、大量的任务,需要进行优化,提升平台资源利用率的时候了。所以这个模块可以在平台运行一段时间之后再进行启动。

七、和数据质量间的关系

似乎提交表的治理,很容易让人想到数据质量,是不是在功能上和数据质量重叠了那。

其实,细分一下来看这里的表的治理是对于表本身的,表的名称、备注,表是不是被使用,加工过程是不是符合数据正向流向。但是数据质量治理是针对的表里面数据内容本身。这样细品起来,是不是就能发现这是两个层面的了。当然,如果真要柔和在一起,也是没问题的。这些产品本身不是目标,能够解决数据问题,是一个目标。而且产品也是分久必合,合久必分的。慢慢进化。

八、总结

主动的任务规范性治理,在一个平台后期阶段是必要的,防止不断膨胀的平台表、任务对于资源的浪费是一方面,另一方面,一个干净清爽的表、任务资产,也是开发能够基于此,进行很好迭代升级的基础。

本文由人人都是产品经理作者【数据小吏】,微信公众号:【数据小吏】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载。

题图来自Unsplash,基于 CC0 协议。