惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Google DeepMind News
Google DeepMind News
S
Security Affairs
阮一峰的网络日志
阮一峰的网络日志
L
LangChain Blog
Microsoft Azure Blog
Microsoft Azure Blog
雷峰网
雷峰网
Recent Announcements
Recent Announcements
WordPress大学
WordPress大学
The GitHub Blog
The GitHub Blog
博客园_首页
The Cloudflare Blog
M
MIT News - Artificial intelligence
博客园 - 【当耐特】
MyScale Blog
MyScale Blog
S
SegmentFault 最新的问题
P
Proofpoint News Feed
Y
Y Combinator Blog
Jina AI
Jina AI
博客园 - 聂微东
A
About on SuperTechFans
Blog — PlanetScale
Blog — PlanetScale
博客园 - 司徒正美
G
Google Developers Blog
云风的 BLOG
云风的 BLOG
F
Full Disclosure
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
Microsoft Security Blog
Microsoft Security Blog
爱范儿
爱范儿
T
Tailwind CSS Blog
J
Java Code Geeks
Vercel News
Vercel News
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
Stack Overflow Blog
Stack Overflow Blog
罗磊的独立博客
小众软件
小众软件
酷 壳 – CoolShell
酷 壳 – CoolShell
T
The Blog of Author Tim Ferriss
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
博客园 - 三生石上(FineUI控件)
W
WeLiveSecurity
PCI Perspectives
PCI Perspectives
Attack and Defense Labs
Attack and Defense Labs
Exploit-DB.com RSS Feed
Exploit-DB.com RSS Feed
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
宝玉的分享
宝玉的分享
IT之家
IT之家
Hacker News: Ask HN
Hacker News: Ask HN
The Register - Security
The Register - Security
T
The Exploit Database - CXSecurity.com
T
Threat Research - Cisco Blogs

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理, 企事业单位数字化的业务供需本质 – 人人都是产品经理, 医疗智能体·第1讲——医疗信息化重构:从“辅助软件”到“自主智能体”的范式转移 – 人人都是产品经理, 粉丝量就是空气!!! – 人人都是产品经理, 用户说“薯片碎了”,机器回“要买吗?”:意图识别的翻车与破局 – 人人都是产品经理, RAG召回准确率从75到90 我做对了这三件事 – 人人都是产品经理, AI大事件:Anthropic改收费、OpenAI发安全版、手术机器人纳入医保、阿里发布”秒悟” – 人人都是产品经理, Chrome 推出 Skills 新功能,Agent 重塑上网方式 – 人人都是产品经理, GitHub前创始人拿了a16z的1700万美元,做Agent时代的Git – 人人都是产品经理 拷贝或克隆其他 Flutter OH 项目到本地后无法运行 – 人人都是产品经理, 优惠券设计:优惠券创建 – 人人都是产品经理, 不用死磕文档!AI 助手 1 小时搞定飞书 CLI 安装 + 配置 + 知识库 – 人人都是产品经理, 用小龙虾做竞品分析报告:从2天到20分钟,我是怎么做到的 – 人人都是产品经理 用小龙虾做市场分析报告:搞懂这3个公式,市场规模不再靠猜 – 人人都是产品经理, 你早就在做 Harness 工程,只是不知道它叫这个名字 – 人人都是产品经理, Think Long就够?你可能想多了! – 人人都是产品经理, 货代SRM实战:供应商准入怎么做,才能让资源池不是通讯录而是可交付网络? – 人人都是产品经理, 如何做好用户调研?详解基本技巧 – 人人都是产品经理, 木鸟、途家、美团对打,平台春天行动开“卷” – 人人都是产品经理, 入职才发现公司不靠谱?小红书从业者求职避坑指南 – 人人都是产品经理, 美国 AI 三巨头联手封堵,中国 AI 突围之路在何方 – 人人都是产品经理, 小红书,放在需求对面的镜子 – 人人都是产品经理, AI 会带来大规模失业吗? – 人人都是产品经理, 从出单到补货前,我第一次犹豫:该不该放大? – 人人都是产品经理, Flutter 三方库鸿蒙化适配:5 种高效检查方式,快速判断是否需要适配 – 人人都是产品经理, 从做产品进阶拿结果:医美机构产品经理转岗科室运营经理 – 人人都是产品经理, 阿里HappyHorse,一场关于“Token经济”的阳谋 – 人人都是产品经理, To B AI:客户留存落地的观察与思考 – 人人都是产品经理, AI产品的“生命线”——数据采集、标注、清洗的产品化设计 – 人人都是产品经理, 谈谈AI Agent(二):当“孩子”能自己“体验世界”时,你该学什么? – 人人都是产品经理, UI/UX设计师的3层能力进阶,前两层让你活下来,第三层…才是真正的分水岭 – 人人都是产品经理, 2分钟 → 30秒,效率提升75%:B端产品经理如何用「规则枷锁」驯服AI幻觉? – 人人都是产品经理, 还没来得及学OpenClaw,来了个更猛的:Hermes Agent – 人人都是产品经理, AI日报:宇树机器人跑出10m/s刷新世界纪录 – 人人都是产品经理, 一文说透基金互金如何用情绪价值引导用户决策做转化 – 人人都是产品经理, 当浏览器开始替你”看”网页:AI 浏览器正在亲手拆掉它脚下的那张网 – 人人都是产品经理, 0代码,一天时间我Vibe Coding了个网站 – 人人都是产品经理, Hermes 和 OpenClaw 之争,Agent 的能力应该“装上去”还是“长出来”? – 人人都是产品经理 视频生成的“桌子”,字节Seedance 2掀完,阿里快乐马掀 – 人人都是产品经理, 从听不懂到完全信任:我的 Codex 深度产品体验 – 人人都是产品经理, 当虚拟偶像有了北京户口,与真人偶像还有什么区别? – 人人都是产品经理, 会说,远远比会做更重要 —— 对 SBTI 爆火现象的五层观察 – 人人都是产品经理, AI产品经理必看:当“搭环境”比“选模型”更重要,你的认知还在2024年吗? – 人人都是产品经理, 2026年AI产品商业化核心逻辑:从功能demo到规模化营收的3个必破卡点 – 人人都是产品经理, 京东围绕供应链,卷起裤腿下场的那些事儿 – 人人都是产品经理, SBTI一夜刷屏:它赢在了“太会说人话” – 人人都是产品经理, 折扣零售的真相:不是便宜,而是价值感! – 人人都是产品经理, 和甲方吵了一架,最后加钱做了——我学到的ToB产品经理生存法则 – 人人都是产品经理, 和几位小红书操盘手聊了8小时,干货全在这 – 人人都是产品经理, 智谱GLM-5.1登场,开源模型首超Opus4.6!!! – 人人都是产品经理 Anthropic收入凭什么反超OpenAI,终于有人把这事说清楚了 – 人人都是产品经理, 史上最有故事感的技术报告——Claude最强模型Mythos 7个极其精彩的细节 – 人人都是产品经理, 模型不是壁垒,Harness 也不是 – 人人都是产品经理, 抖音本地生活业务思考21 – 人人都是产品经理, Superpowers:145k Star的AI编码框架,到底是什么来头? Superpowers:145k Star的AI编码框架,到底是什么来头? – 人人都是产品经理, OpenAI 的路走错了,Anthropic Harness 解法启示:模型需要实践专科生 – 人人都是产品经理, 画原型图的前一步:设计站点地图 – 人人都是产品经理, 给 DeepSeek 的最后一封催更信 – 人人都是产品经理, 手把手教你用 Claude Code 搭建 AI 营销团队:5 个 Agent、12 项技能,独立完成研究、写作、设计全流程 – 人人都是产品经理, 你以为大模型在学语言?不,它在重新发明语言学 – 人人都是产品经理 所谓Skill,不过是AI时代的工业垃圾 – 人人都是产品经理, 聊一聊内容传播的几个方法 – 人人都是产品经理, 当平台开始吃掉生态:从 OpenClaw 被封杀,读懂 Anthropic 的这盘棋 – 人人都是产品经理, 你装了 10 个 AI 插件,Obsidian 还是一个文件夹 – 人人都是产品经理 关于AI智能体架构演进的系统性思考:从单体试水到多体协同的重构 – 人人都是产品经理, 当“人”变成Skill,我们又该何去何从? – 人人都是产品经理 Mythos 事件:前沿 AI 治理的意外实验 – 人人都是产品经理, 货代CRM:信用与风险管理怎么做,才能把坏账风险拦在放货之前? – 人人都是产品经理, 从HR收集自拍照到员工自助录入——我见证了园区人脸识别从”不可用”到”真好用”的全过程 – 人人都是产品经理 千问闯关AI混沌期:阿里画靶,吴嘉张弓,马云射箭? – 人人都是产品经理,
数据治理系列01:初识数据治理
草帽小子 · 2024-05-05 · via 人人都是产品经理

什么是数据治理?怎么做数据治理?作者结合业界先进经验及个人实践经历,进行了介绍分析。

随着企业数据爆炸式增长,企业在用数时,会存在数据孤岛问题、数据建设不规范、指标口径不统一、数据查询计算不稳定、数据安全等问题。因而各个公司也开始了数据治理,推动数据规范建设及使用。

接下来草帽小子将开启数据治理的系列篇,结合借鉴业界先进的数据治理经验及个人工作实践经历,帮助大家系统化地了解数据治理。

一、数据治理是干什么的

按照国际数据管理协会(DAMA)的定义,数据治理是对数据资产的管理活动形式权利和控制的活动集合(规划、监控和执行)。

按IBM的定义,数据治理是企业通过不同的策略和标准,提高组织数据的可用性、质量和安全性的一整套制度与管理活动,数据治理的目标是维护安全且易于访问的高质量数据,以获取更深入的业务洞察。

名词解释:

  1. 元数据:描述数据的数据,例如记录数据的存储位置、模型定义、血缘关系等信息,类似画像
  2. 主数据:描述企业核心业务实体的数据,例如客户、产品、账户等,主数据具有较高的业务价值,可在企业内跨各个业务部门被重复使用

数据治理要点是数据稳定、规范、安全,就像盖楼盘一样,需要设计好楼盘架构,打好地基,制定建设规范,并推动各团队人员进行搭建。

二、为什么要做数据治理

1. 从发展阶段,看数据治理的发展原因

①第一阶段:2005-2009年

2005年左右,早期的数据仓库在中国兴起,一开始主要由商业银行、通信运营商主导,随后能源等行业企业加入。商业银行通过与埃森哲、IBM等国外IT咨询公司合作,最早将数据治理的概念在中国予以实践。

数据仓库建设涉及从不同来源的平台中抽取数据并进行整合,在这一过程中,需要确保数据质量,包括数据口径、数据标准和数据模型统一等。通过数据治理,建立起数据标准、数据模型等管理体系,能够提升数据质量,确保数据仓库建设顺利推进,进而能够更好地支撑起BI等数据分析型应用。

数据治理系列01:初识数据治理

草帽小子:数据治理的发展阶段与大数据的发展息息相关,只要涉及大数据建设,就势必有数据规范、数据质量、数据安全等问题。

②第二阶段:2010-2014年

这一阶段的数据治理需求主要集中于银行业,主要由监管政策驱动。为了推动中国银行参加到国际清算体系中,2011年中国推出《银行监管统计数据质量管理良好标准》,该标准从组织机构及人员、制度建设、系统保障和数据标准、数据质量的监控、检查与评价、应用和存储等方面对银行数据治理提出要求。

草帽小子:银行等金融机构,对底层数据质量的要求更高,并面临着一定的监管压力,势必需要数据治理

③第三阶段:2015-2018年

2015年左右,企业兴起了大数据平台的建设,并且到2018年,数据中台概念流行,数据中台中包含统一资产管理、统一数据元管理等与数据治理相关的内容。在这个阶段,越来越多的企业开始搭建数据治理的专职团队。

2018年,中国银保监会发布《银行业金融机构数据治理指引》,包含数据治理架构、数据管理、数据质量管控、数据价值实现。

数据治理系列01:初识数据治理

④第四阶段:2019年-至今

2019年以来,企业数字化转型进入快车道,在这一阶段,数据治理已内化成为企业机制建设的一部分。

如2020年9月,国资委发布的《关于加快推进国有企业数字化转型工作的通知》,针对央企数字化转型工作,明确提出构建数据治理体系的要求。包含明确数据治理归口管理部门,加强数据标准化、元数据和主数据管理工作,定期评估数据治理能力成熟度。加强生产现场、服务过程等动态数据采集,建立覆盖全业务链条的数据采集、传输和汇聚体系。

草帽小子:国家层面推动国有企业数据化,国有企业会逐步建设数据平台并进行数据治理,企业对数据人才的需求仍会不断增多。

在包括金融、通信、能源、制造等数据治理开展相对成熟的行业,较多企业都已设置数据治理的专职部门和岗位,而且越是数据治理成熟的企业,专职部门越是靠近业务侧,且专职部门级别越高。

2021年工信部发布的《“十四五”大数据产业发展规划》,以释放数据要素价值为导向,加强数据高质量治理。

数据治理系列01:初识数据治理

2. 从现状问题看数据治理对企业的价值

我们来看阿里云dataworks团队,在数据建设推进与应用中遇到的阶段性问题。

①起步阶段:数据量与稳定性的矛盾

随着数据量的增长,数据稳定性不足,任务调度随着规模增大经常挂掉,集群计算资源不足,问题处理时间长。

数据治理系列01:初识数据治理

②应用阶段:数据普惠与使用效率的矛盾

在数据应用时,使用数据的人增多,数仓人员疲于取数,数据团队压力增大,数仓建设会逐步变得混乱,反而会阻碍后续使用数据效率。

③规模阶段:灵活便捷与风险管控

数据出口多,人为泄露行为管控难,安全保障有待提高,各类数据安全的管理动作,往往会与效率背道而驰,数据分类分级难度高。

④成熟阶段:业务变化与成本治理的矛盾

数据成本压力大,不知道数据成本在哪,数据不敢删、任务不敢下。

草帽小子:国有企业在政策的指引下,逐渐推动数字化转型、数据治理;私营企业在业务数据不断增长的驱动下,逐渐推动数据治理。

3. 不同类型企业如何做数据治理

传统企业的数据治理跟数字化转型息息相关,数据治理动作往往融入了数据化建设的每个环节中。

(1)互联网

以阿里为例,阿里建设社dataworks大数据开发治理平台,建设的能力包括指标数仓规范设计、数据分析、元数据管理、数据安全管理等能力。

数据治理系列01:初识数据治理

(2)能源

包含煤炭、电力、光伏、电站等,如国家电网、中石化等。

能源行业如电力的数据治理,不能单纯以数据质量、血缘分析、元数据管理等传统IT技术为主,需要在数据治理中紧密结合业务,与各个业务环节紧密配合。

例如:设备检修:电网公司通过对设备运行的海量数据挖掘,开展预测性检修的研究,以较高的准确率预测出设备运行的未来状态,预判设备发生故障的可能性,从而达到基于设备状态来指导检修的目的。

数据治理系列01:初识数据治理

常见的挑战,包含:

  • 数据类型多:电力行业广泛部署的物联网设备,产生了格式不同、频率不同、定义不同的多源异构数据
  • 海量数据,时效性强:电力的产生、传输与消费情况瞬息万变,片刻间便能产生海量的数据资源,如何及时获取、可靠存储、快速计算?
  • 数据链路长:能源价值链整合的参与者众多,价值活动之间存在紧密联系,各方数据交互标准、质量、规范如何有效把握?

关键治理方式,包含:

  • 自动采集各类数据资产信息:根据不同的数据源,开发不同的采集适配器,实现不同种类的数据自动化采集
  • 全面管理企业数据资产:在实现企业元数据、技术元数据、模型元数据的全面采集后,企业做好整体数据资产的梳理、数据质量的管理
  • 数据资产服务化:提供自助查询服务、自动获取数据服务

(3)金融

金融数据治理是金融行业数字化转型的重要切入点,也是推动金融业从高速增长向高质量发展转变的关键点。银保监会发布的《银行金融机构数据治理指引》,从数据治理团队、数据管理的标准、数据质量管控、数据价值实现等方面展开。

金融数据治理的常见的挑战,包含:

  • 数据价值发现和数据信息保护的矛盾:《数据安全法》、《个人信息保护法》陆续实施,要求金融从业机构将个人客户信息安全、隐私保护,贯穿在数据采集与应用的全过程。
  • 金融如银行机构,存在各地分行多,经营数据割裂,数据流通困难等问题

数据治理系列01:初识数据治理

关键治理方式:

  • 治理服务化:管理理念转为服务理念,通过提供便利的工具或服务,全面为业务提供服务。
  • 治理流程化:结合开发流程,将数据模型、数据字典管理流程化,从数据源头落实数据标准。
  • 治理场景化:与监管报送相结合,全流程监控报送质量。
  • 标准开放化:构建数据标准运营体系,探索更多开放共享场景,应用数据治理成果。
  • 资产智能化:构建智能数据资产管理,结合先进技术,全面释放数据价值。

数据治理系列01:初识数据治理

4. 数据人才的机会

在国家推动企业数字化转型的趋势下,不仅仅是互联网企业需要进行数据人才,较多传统企业包括能源、通信、金融、制造等也需数据人才。

企业信息化、数据化的程度不同,所面临的问题也不同,所需数据人才的能力侧重点也会有所差异。但在整体数字化推进时,也会需要一定的通用能力,如数据采集、数据分析、数据计算、数据治理、数据应用等。

因而,个人在工作实践上,可不断增长对大数据平台,各个模块的实践与了解,尽可能掌握整个大数据体系;同时可放眼外界,多对比了解不同行业的数字化建设差异。

专栏作家

草帽小子,公众号:一个数据人的自留地,人人都是产品经理专栏作家。《大数据实践之路:数据中台+数据分析+产品应用》书籍作者,专注用户画像领域。

本文原创发布于人人都是产品经理。未经许可,禁止转载。

题图来自Unsplash,基于CC0协议。

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。