




















本文介绍了数仓的分层结构和分层的原因。通过分层,可以使数据处理更加规范、高效,提供可靠的数据支持。让我们一起学习一下~

操作数据层:ODS(Operational Data Store)
把操作系统数据几乎无处理地存放在数据仓库系统中。
事实明细层:DWD(Data Warehouse Detail)
DWD 层是在ODS层基础上,根据业务过程建模出来的事实明细层。
公共汇总层:DWS(Data Warehouse Summary)
一般根据维表数据和明细事实数据加工生成,作为通用的数据模型使用。
应用数据层:ADS(Application Data Store)
存放数据产品个性化的统计指标,根据明细层、汇总层及维表数据加工生成。
关于啥是数仓分层这里就不多介绍了。
首先我们先了解数仓分层现状:
各大企业数仓都是咋分的?有啥区别?

经过整理各大企业的数仓分层情况,经过对比可以发现:
不同点:
相同点:
都包括贴源层、明细层、汇总层、应用层。都遵循维度建模理论,数据处理的流程本质上一样的,先拆分梳理再聚合汇总。
3NF建模可参考上篇文章的描述:https://www.woshipm.com/data-analysis/5885754.html
回答这个问题前,我们可以先思考如果不分层会怎么样?不分那么多层会怎么样?
假设我们把数仓里的表都拍平,没有分层概念,业务源数据经过简单的数据清洗,加载到数据仓库中,直接应用于数据分析。
好处:数仓与业务系统隔离,数据分析不会直接影响到业务系统。
坏处:
看情况,当数据少,分析需求少,可以不去分dw层,ods直接加工到ads层,我们刚开始就是这样干的。
发现好像也不是不行啊,数据直接加工到ads层,上层应用查询效率也够用哈。
此时的好处:省事,成本很低,效率很高,数据出错改的也很快。
此时的坏处:
由此我们可以推演出为啥要进行数仓分层?
既然有好处,那肯定也会有坏处,鱼和熊掌不可兼得!
以卖早餐为例:
如果你在一个小巷子里,客户就是周边的邻居,你从选购食材,清洗食材,烹饪食材,然后摆出各种类型的早餐去售卖。
数据产品经理在这个过程中,就扮演着厨师的角色,如果我么要做一个韭菜盒子,就需要去了解哪些食材是我们需要的,“韭菜+粉丝+豆腐+面粉”对吧,韭菜别买成芹菜了,豆腐要买老豆腐,韭菜买回来得洗一下,粉丝得先泡一泡,豆腐要切成豆腐碎,还得和面。准备工作完成,就开始剁菜馅,切得碎碎,然后在包起来,下锅炸,最后摆盘售卖。
按部就班的将原材料加工成客户需求的产品。
【拓展思考】
分层也是一种分工协作,把一件复杂的事情模块化,简单化,提高可管理性,可维护性。
还是以卖早餐为例:
如果你是在陆家嘴地铁口售卖早餐,那么你最多就是卖包子,卖豆浆,其他环节可能都交给中央厨房去统一处理了。你只需要卖好包子就行。
本文由 @清小墨 原创发布于人人都是产品经理,未经许可,禁止转载
题图来自 Unsplash,基于 CC0 协议
该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。