惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

S
Secure Thoughts
B
Blog
MongoDB | Blog
MongoDB | Blog
GbyAI
GbyAI
博客园 - 【当耐特】
D
DataBreaches.Net
Apple Machine Learning Research
Apple Machine Learning Research
阮一峰的网络日志
阮一峰的网络日志
I
InfoQ
人人都是产品经理
人人都是产品经理
Microsoft Azure Blog
Microsoft Azure Blog
量子位
美团技术团队
Recent Announcements
Recent Announcements
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
M
MIT News - Artificial intelligence
O
OpenAI News
SecWiki News
SecWiki News
A
About on SuperTechFans
J
Java Code Geeks
B
Blog RSS Feed
Y
Y Combinator Blog
L
LangChain Blog
Security Archives - TechRepublic
Security Archives - TechRepublic
Attack and Defense Labs
Attack and Defense Labs
小众软件
小众软件
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
Martin Fowler
Martin Fowler
博客园 - 聂微东
雷峰网
雷峰网
有赞技术团队
有赞技术团队
Google DeepMind News
Google DeepMind News
T
The Exploit Database - CXSecurity.com
N
News and Events Feed by Topic
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
Microsoft Security Blog
Microsoft Security Blog
Recorded Future
Recorded Future
P
Palo Alto Networks Blog
Blog — PlanetScale
Blog — PlanetScale
N
News | PayPal Newsroom
Scott Helme
Scott Helme
L
LINUX DO - 热门话题
F
Full Disclosure
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
The Hacker News
The Hacker News
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
U
Unit 42
博客园_首页
T
Tailwind CSS Blog
T
Tenable Blog

少数派

派早报:Google 发布 Fitbit Air 等 - 少数派 「新人报到」確認需求,再開始 - 少数派 从 SOLO 独立开发者社区,我看到了越来越多开发者开始做自己的产品 - 少数派 我怎么管理那些"不常做,但总会忘"的生活事项 - 少数派 人形机器人量产元年,数据才是具身智能的“生死线” - 少数派 BuhoLaunchpad 高度还原 Mac 启动台:开发历程与思考 - 少数派 五年陪伴依然不舍,DIY 换壳后让罗技 MX Master 3 继续服役 - 少数派 新玩意 240|少数派的编辑们最近买了啥? - 少数派 一日一技|为什么你应该关闭 iOS 的键盘声音 - 少数派 我做了个插件和 Skills,一键提取任何网站的设计规范 Design.md - 少数派 住在三四线城市的你,该开始录播客了 - 少数派 甘南秘境,大白高国 - 少数派 AI的审美:谁让把我变成川内倫子 - 少数派 返工怎能不烦恼,打工人片单总有一部是你的「嘴替」 - 少数派 为了让「上厕所」更健康,我做了一个小工具 - 少数派 AI + Skill,能够让生成的文章去除 AI 味吗? - 少数派 新玩意|韶音OpenDots ONE 耳夹式耳机 - 少数派 《美满》| 在每一个春天的晚上相爱(362) - 少数派 新玩意|优篮子 PS01 MagSnap 磁吸支架 - 少数派 自我整合手记 | 我开始早睡了:用稳定规则,为自由托底 - 少数派 用龙虾(OpenClaw)两个多月,我最深的12个体会 - 少数派 听歌时间到,12 张你可能错过的 2025 华语乐坛好专辑 - 少数派 承诺能追吗 - 少数派 macOS 26启动台没了? 我做了个不一样的App启动器 - Keboard - 少数派 《四海为家的人》| INTJ对话INTJ(361) - 少数派 你发过的那些黑历史,是时候一次清干净了 - 少数派 新玩意:安安静静玩,越玩越专注:计客密码机 - 少数派 iPad 用户首次体验 Android 平板:vivo Pad6 Pro - 少数派 数据逻辑强 - 少数派 极北行+ | 一路向北,探访日本至北之地 | 001 - 少数派 万字剖析:千问App深度体验报告(2026) - 少数派 在2026年,如何真正防止别人抄袭你的作品 - 少数派 怎么用 50 块搭个 AI 语音助手?我踩了 3 天坑 - 少数派 YeeroAI:让 AI 对话真正成为知识管理的一部分 - 少数派 爬泰山 - 少数派 「旅图显影」 App 更新:这次,我们补上了一点「手感」 - 少数派 假期出门太折磨?我的 23 条经验帮你规划惬意旅行 - 少数派 工作流会变吗 - 少数派 Claude Opus 4.6 怎么用最省钱?我测了 5 种方案 - 少数派 GPT Image 2 让图文并茂不再稀罕 - 少数派 用户侧出发——什么是AI,我要不要学习? - 少数派 找片、转存、整理、播放一条龙!让你的付费网盘值回票价 - 少数派 欢迎试用!日课一问2.0插件 - 少数派 自己做的MDeditor,原本想购买 Typora 试了两次支付不成功,干脆自己做一个 - 少数派 vibe coding了一个 3MB 的小工具,让 ~/Downloads 彻底告别混乱 - 少数派 因为受不了 Mac 的风扇策略,我做了一个风扇控制工具 - 少数派 别只怪模型 - 少数派 Warp 终端的 AI 功能怎么用?我测了一周的体验 - 少数派 AI 写代码老是出 bug?这 5 个配置我后悔没早知道 - 少数派 「新玩意」苹果出相机可能就这样:Sigma BF + 45mm F2.8 DG Contemporary - 少数派 一个面向2030年的AI操作系统是什么样子的:浅谈cola这款有灵魂的Agent - 少数派 别只看写代码 - 少数派 每天解决10个问题,还是一口气攻坚解决400个? - 少数派 AI 交易机器人怎么搭?我用 Claude 跑了一周实盘 - 少数派 Maptoposter Online:把你爱的城市画成艺术海报 - 少数派 Function Calling 怎么用?我测了 3 个模型发现差距真大 - 少数派 Legend Talk:我做了个 AI 圆桌,让 160 位思想家围着你的问题转 - 少数派 如何找到自己的蓝方?在小县城寻找压力测试 - 少数派 语音输入与软件接口|2026年聊AI时,我们都聊些什么(上) - 少数派 混动已经卖爆,纯电又来补刀——钛7闪充版简直“不讲武德” - 少数派 本月玩什么|朋友收藏、识质存在、沙罗周期 - 少数派 为什么要每天坚持输出? - 少数派 Claude API 挂了好几个小时,你的项目有备用方案吗? - 少数派 Function Calling 没你想的复杂——我用它做了个有点用的工具 - 少数派 登录系统立即播放视频或者图片音乐的软件 - 少数派 我为什么创建 FlipHTML5 下载工具 - 少数派 残局没电?多品牌外设电量统一管理软件EasyBluetooth已支持RTSS游戏内显示以及AIDA64 - 少数派 前往通义路的路 - 少数派 太好看了,媲美Sun的个人导航页,NAS部署星云门户 - 少数派 乌黑嘴唇“一键检测”上线了 - 少数派 派早报:Claude AI 接入多个创意软件生态、FILCO 生产方接手品牌等 - 少数派 【更新】BearCLI、Claude 连接器与 MCP 服务器 - 少数派 记了上千条流水,还是看不懂财务?我做了一个让 AI 读懂账本的工作台 - 少数派 MINI R56 升级原厂 Sport 模式 - 少数派 新玩意 | 一棵柠檬树(仿真版) - 少数派 Momenta的“物理AI”野望,需迈过“含摩量”这道关 - 少数派 网页直接投屏控制手机!NAS一键部署PandaScrcpy,流畅丝滑可远程。 - 少数派 众测|邀你一同探索随身 AI 硬件入口 YoooClaw C·ONE - 少数派 2050大会:分享时间是真诚 参会记 - 少数派 iPad 赋能电影创作:国内首部宣纸手绘长片《燃比娃》的幕后故事 - 少数派 AI的审美:我用 8 个大模型给 100 张旅行照片打分 - 少数派 普通人如何破圈?去参加一个本地协会 - 少数派 把极空间的图标全换了,主题DIY全攻略打造你的专属NAS桌面 - 少数派 电子便签墙,帮你实现便签自由 - 少数派 我如何用三个 CLI 工具取代文档创建需求 - 少数派 原来真的有人可以玩一辈子 - 少数派 社区速递 139 | 派友热议三月买了啥、复古单反尼康 Df 体验 - 少数派 06 作品的赏析与评价 - 少数派 TDS REVIEW|索尼 WF-1000XM6 降噪真无线耳机体验 - 少数派 35.98万起售的第二代腾势D9,我看重的不是堆料,而是不凑合 - 少数派 鼠须管 Squirrel 皮肤配置指北 - 少数派 从watch ultra2换到redmi watch6 - 少数派 派早报:阿里巴巴发布视频生成模型 HappyHorse 1.0 等 - 少数派 别迷信1M - 少数派 家人们天塌了!网盘“大封杀”,多个渠道多条路,NAS部署PanHub - 少数派 AI与人勾心斗角!NAS一键部署AI狼人杀,假日休闲必备。 - 少数派 电商必备!Comfyui工作流批量生图插件,一次生成12张!支持Nano banana pro模型 - 少数派 Comfyui工作流配置Gpt-image-2模型教程,0.03/张 - 少数派 OpenClaw第三方APi怎么配置?可使用Gpt-image-2模型 - 少数派 会员社区话题精选 Ep. 103 - 少数派
【白话大数据】大数据就像一个大食堂,讲讲数据部门的人们都在干什么 - 少数派
2025-03-25 · via 少数派

我又要开启举例模式啦。我由衷地喜爱把一些专业的知识与我们日常生活中常见的事物进行对比。在我看来,这样做有着诸多妙处,它能让原本晦涩难懂的专业知识变得更加生动鲜活,就像为枯燥的文字赋予了生命一般。而且,这种对比方式能极大地降低理解的难度,让更多人轻松领会其中的含义。熟悉我的朋友们都十分清楚,我常常会用食堂来类比一家企业的大数据。这是因为食堂的运营过程中蕴含着许多和企业大数据处理相似的逻辑,二者之间存在着奇妙的共通之处,用食堂来类比,能让大家更直观地感受到大数据在企业中的运作模式。

先上图

如图所示,展现在我们眼前的是一个食堂的基本架构。可别小瞧了这个看似普通的食堂架构,实际上,它也是一家企业大数据的基本架构。这种相似性就如同隐藏在生活角落里的宝藏,一旦被发现,就能为我们理解大数据打开一扇全新的大门。每次我走到公司食堂的时候,脑海中都会不由自主地浮现出我们日常所做的工作。在这个奇妙的类比里,我们就像是食堂里各司其职的工作人员,有的如同技艺精湛的厨师,凭借着专业的技能和丰富的经验,对数据进行精心的加工和处理;有的好似细致认真的备菜员,仔细地挑选和准备数据原材料;还有的就像负责管理仓库的管理员,用心地保管和整理数据,确保数据的安全和有序。

首先,在没有数据中台,或者数据仓库之前,所有的数据都是散落在各个业务系统和其他地方的。这就好比是一个热闹非凡的菜市场,里面摆满了各种各样没有被加工过的原始材料。你看那满是泥巴的胡萝卜,带着泥土的芬芳,却还保留着未经雕琢的原始模样;还有那打了农药的青菜,虽然带着一些瑕疵,但却蕴含着成为美味佳肴的潜力。这些原始数据就如同菜市场里的蔬菜,杂乱无章地分布着,等待着被发掘和利用。 

我们通过数据同步手段,将我们需要的这些原始胡萝卜(原始数据),集中到一起。这个过程就像是食堂的采购人员,在菜市场中精心挑选我们需要的食材,然后把它们集中采购回来,这在大数据领域俗称采购(数据集成/数据上云)。接着,我们把采购来的瓜果蔬菜放在一个仓库中的一个房间里等待下一步处理,这个房间我们称为 ODS(Operational Data Store)。这个房间就像是一个临时的中转站,各种数据在这里暂时存放,等待着被进一步加工和处理。

下一步,我们要对这些脏兮兮的原材料(原始数据)进行清洗 - 去皮。想象一下,那些带着泥巴的胡萝卜,经过我们的清洗和去皮,变得干净整洁,就像数据经过清洗后去除了杂质和错误,变得更加纯净和可用。然后,我们把处理好的数据转运到另外一个房间CDM(Common Data Model),并将它们放在事先设计好的货架(数据模型表)上。这些货架就像是图书馆里的书架,每一层都有明确的分类和标识,以便可以让大家方便高效的找到所需的数据,随要随取。模型可以理解成是一堆表格的设计,后面会详细说明。设计这些货架(表)的工作我们叫做模型设计,它的目的就是让数据井然有序,就像给图书馆的书籍进行合理分类一样。同时,我们还要考虑以后方便扩展更多的货架,以应对不断增长的数据需求。

到了这一步,原材料就准备好了,随时等待顾客上门点菜。

这个时候有个顾客(数据运营/业务人员)来了,说要吃一碗番茄炒蛋(数据报告)。这个订单被传送到厨师(数据分析师)的面前,厨师开始认真分析,根据多年的经验和专业知识,判断出需要一个番茄两个鸡蛋。然后,厨师从仓库中取走自己需要的番茄和鸡蛋。接着,厨师熟练地将番茄切成块,把鸡蛋搅散,然后丢到锅里一顿操作,就像施展魔法一样,一盘美味的番茄炒鸡蛋做好了。在大数据的世界里,数据分析师就像这位厨师,根据业务需求,从数据仓库中提取所需的数据,经过一系列的分析和处理,最终生成满足需求的数据报告

后来数据分析师发现太多人都爱吃番茄炒蛋了,为了提高效率节省人力,就建议买个自动炒菜机器人(BI 系统)。这样一来,当顾客要吃番茄炒蛋的时候,就可以自动让它来做好了。使用自动炒菜机器人不仅能节省人力,而且还能提高效率,保证菜品的质量稳定。同时,数据分析师跟仓库说,让他们顺便把番茄切好,鸡蛋也准备好。于是,仓库又新增了一个房间叫 ADS(Application Data Store)专门用来处理 CDM 房间的货。在这个房间里,工作人员根据菜单上不同的菜,提前备好食材,该切块的切块,该切丝的切丝。这样对于畅销的几个菜品,食堂制作起来就更高效了。在大数据领域,ADS 就像是一个专门为热门数据需求准备的“预制菜”仓库,能快速响应业务需求,提高数据处理的效率

这个模式大大提高了食堂的工作效率,所有工作都有条不紊的进行。就像一个运转良好的机器,每个环节都紧密配合各司其职,为顾客提供优质的服务。

随着时间推移,应顾客(数据运营/业务人员)的要求食堂增加了新的菜品,设计了新的菜单。这就意味着食堂从原材料到仓库货架都需要再做调整。原来的材料怎么办呢?那些长期不怎么用的食材放在货架上也是浪费空间,就像一些陈旧的数据,如果一直保留在数据仓库中,不仅会占用大量的存储空间,还会影响数据的查询和处理效率。而且,原材料的品质不稳定也会导致顾客拉肚子等问题,在大数据领域,这就相当于数据的质量出现问题,会影响数据分析的结果和业务决策准确性

那么,如何处理这些问题呢?以后又如何避免类似的问题发生呢?还有,放贵重食材的货架要多上几把锁才行,在大数据中,这就意味着要加强对重要数据的安全保护。这些问题,都需要处理和解决,解决这些问题的工作在大数据食堂里叫做数据治理。数据治理就像是食堂的管理团队,负责协调各个环节的工作,确保食堂的正常运营和数据的质量、安全

建立这么一个有条不紊的大食堂总会有个统筹的人吧,这个统筹的人我们叫数据架构。数据架构就像是食堂的总设计师,他要规划食堂的整体布局,制定各项规章制度协调各个部门之间的工作,确保食堂能够高效、稳定地运行。在大数据领域,数据架构师负责设计和规划企业的大数据架构,确保数据能够在各个系统之间顺畅流动,为企业的业务发展提供有力的支持。

文章首发在微信公众号——《大数据从业者们》