惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

大猫的无限游戏
大猫的无限游戏
博客园 - 【当耐特】
Cloudbric
Cloudbric
H
Hackread – Cybersecurity News, Data Breaches, AI and More
Attack and Defense Labs
Attack and Defense Labs
爱范儿
爱范儿
The Cloudflare Blog
腾讯CDC
Security Archives - TechRepublic
Security Archives - TechRepublic
TaoSecurity Blog
TaoSecurity Blog
云风的 BLOG
云风的 BLOG
Recent Announcements
Recent Announcements
C
Check Point Blog
Schneier on Security
Schneier on Security
S
Schneier on Security
J
Java Code Geeks
B
Blog RSS Feed
Cisco Talos Blog
Cisco Talos Blog
Vercel News
Vercel News
Stack Overflow Blog
Stack Overflow Blog
博客园_首页
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
A
About on SuperTechFans
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
Google DeepMind News
Google DeepMind News
阮一峰的网络日志
阮一峰的网络日志
罗磊的独立博客
A
Arctic Wolf
S
Secure Thoughts
P
Palo Alto Networks Blog
The Last Watchdog
The Last Watchdog
SecWiki News
SecWiki News
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
博客园 - 三生石上(FineUI控件)
D
Darknet – Hacking Tools, Hacker News & Cyber Security
量子位
U
Unit 42
I
InfoQ
D
DataBreaches.Net
P
Privacy International News Feed
T
Troy Hunt's Blog
博客园 - 叶小钗
T
Threatpost
博客园 - Franky
K
Kaspersky official blog
Hugging Face - Blog
Hugging Face - Blog
IT之家
IT之家
www.infosecurity-magazine.com
www.infosecurity-magazine.com
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
C
Cisco Blogs

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理, 企事业单位数字化的业务供需本质 – 人人都是产品经理, 医疗智能体·第1讲——医疗信息化重构:从“辅助软件”到“自主智能体”的范式转移 – 人人都是产品经理, 粉丝量就是空气!!! – 人人都是产品经理, 用户说“薯片碎了”,机器回“要买吗?”:意图识别的翻车与破局 – 人人都是产品经理, RAG召回准确率从75到90 我做对了这三件事 – 人人都是产品经理, AI大事件:Anthropic改收费、OpenAI发安全版、手术机器人纳入医保、阿里发布”秒悟” – 人人都是产品经理, Chrome 推出 Skills 新功能,Agent 重塑上网方式 – 人人都是产品经理, GitHub前创始人拿了a16z的1700万美元,做Agent时代的Git – 人人都是产品经理 拷贝或克隆其他 Flutter OH 项目到本地后无法运行 – 人人都是产品经理, 优惠券设计:优惠券创建 – 人人都是产品经理, 不用死磕文档!AI 助手 1 小时搞定飞书 CLI 安装 + 配置 + 知识库 – 人人都是产品经理, 用小龙虾做竞品分析报告:从2天到20分钟,我是怎么做到的 – 人人都是产品经理 用小龙虾做市场分析报告:搞懂这3个公式,市场规模不再靠猜 – 人人都是产品经理, 你早就在做 Harness 工程,只是不知道它叫这个名字 – 人人都是产品经理, Think Long就够?你可能想多了! – 人人都是产品经理, 货代SRM实战:供应商准入怎么做,才能让资源池不是通讯录而是可交付网络? – 人人都是产品经理, 如何做好用户调研?详解基本技巧 – 人人都是产品经理, 木鸟、途家、美团对打,平台春天行动开“卷” – 人人都是产品经理, 入职才发现公司不靠谱?小红书从业者求职避坑指南 – 人人都是产品经理, 美国 AI 三巨头联手封堵,中国 AI 突围之路在何方 – 人人都是产品经理, 小红书,放在需求对面的镜子 – 人人都是产品经理, AI 会带来大规模失业吗? – 人人都是产品经理, 从出单到补货前,我第一次犹豫:该不该放大? – 人人都是产品经理, Flutter 三方库鸿蒙化适配:5 种高效检查方式,快速判断是否需要适配 – 人人都是产品经理, 从做产品进阶拿结果:医美机构产品经理转岗科室运营经理 – 人人都是产品经理, 阿里HappyHorse,一场关于“Token经济”的阳谋 – 人人都是产品经理, To B AI:客户留存落地的观察与思考 – 人人都是产品经理, AI产品的“生命线”——数据采集、标注、清洗的产品化设计 – 人人都是产品经理, 谈谈AI Agent(二):当“孩子”能自己“体验世界”时,你该学什么? – 人人都是产品经理, UI/UX设计师的3层能力进阶,前两层让你活下来,第三层…才是真正的分水岭 – 人人都是产品经理, 2分钟 → 30秒,效率提升75%:B端产品经理如何用「规则枷锁」驯服AI幻觉? – 人人都是产品经理, 还没来得及学OpenClaw,来了个更猛的:Hermes Agent – 人人都是产品经理, AI日报:宇树机器人跑出10m/s刷新世界纪录 – 人人都是产品经理, 一文说透基金互金如何用情绪价值引导用户决策做转化 – 人人都是产品经理, 当浏览器开始替你”看”网页:AI 浏览器正在亲手拆掉它脚下的那张网 – 人人都是产品经理, 0代码,一天时间我Vibe Coding了个网站 – 人人都是产品经理, Hermes 和 OpenClaw 之争,Agent 的能力应该“装上去”还是“长出来”? – 人人都是产品经理 视频生成的“桌子”,字节Seedance 2掀完,阿里快乐马掀 – 人人都是产品经理, 从听不懂到完全信任:我的 Codex 深度产品体验 – 人人都是产品经理, 当虚拟偶像有了北京户口,与真人偶像还有什么区别? – 人人都是产品经理, 会说,远远比会做更重要 —— 对 SBTI 爆火现象的五层观察 – 人人都是产品经理, AI产品经理必看:当“搭环境”比“选模型”更重要,你的认知还在2024年吗? – 人人都是产品经理, 2026年AI产品商业化核心逻辑:从功能demo到规模化营收的3个必破卡点 – 人人都是产品经理, 京东围绕供应链,卷起裤腿下场的那些事儿 – 人人都是产品经理, SBTI一夜刷屏:它赢在了“太会说人话” – 人人都是产品经理, 折扣零售的真相:不是便宜,而是价值感! – 人人都是产品经理, 和甲方吵了一架,最后加钱做了——我学到的ToB产品经理生存法则 – 人人都是产品经理, 和几位小红书操盘手聊了8小时,干货全在这 – 人人都是产品经理, 智谱GLM-5.1登场,开源模型首超Opus4.6!!! – 人人都是产品经理 Anthropic收入凭什么反超OpenAI,终于有人把这事说清楚了 – 人人都是产品经理, 史上最有故事感的技术报告——Claude最强模型Mythos 7个极其精彩的细节 – 人人都是产品经理, 模型不是壁垒,Harness 也不是 – 人人都是产品经理, 抖音本地生活业务思考21 – 人人都是产品经理, Superpowers:145k Star的AI编码框架,到底是什么来头? Superpowers:145k Star的AI编码框架,到底是什么来头? – 人人都是产品经理, OpenAI 的路走错了,Anthropic Harness 解法启示:模型需要实践专科生 – 人人都是产品经理, 画原型图的前一步:设计站点地图 – 人人都是产品经理, 给 DeepSeek 的最后一封催更信 – 人人都是产品经理, 手把手教你用 Claude Code 搭建 AI 营销团队:5 个 Agent、12 项技能,独立完成研究、写作、设计全流程 – 人人都是产品经理, 你以为大模型在学语言?不,它在重新发明语言学 – 人人都是产品经理 所谓Skill,不过是AI时代的工业垃圾 – 人人都是产品经理, 聊一聊内容传播的几个方法 – 人人都是产品经理, 当平台开始吃掉生态:从 OpenClaw 被封杀,读懂 Anthropic 的这盘棋 – 人人都是产品经理, 你装了 10 个 AI 插件,Obsidian 还是一个文件夹 – 人人都是产品经理 关于AI智能体架构演进的系统性思考:从单体试水到多体协同的重构 – 人人都是产品经理, 当“人”变成Skill,我们又该何去何从? – 人人都是产品经理 Mythos 事件:前沿 AI 治理的意外实验 – 人人都是产品经理, 货代CRM:信用与风险管理怎么做,才能把坏账风险拦在放货之前? – 人人都是产品经理, 从HR收集自拍照到员工自助录入——我见证了园区人脸识别从”不可用”到”真好用”的全过程 – 人人都是产品经理 千问闯关AI混沌期:阿里画靶,吴嘉张弓,马云射箭? – 人人都是产品经理,
如何做数据标准化:哪类数据需要标准化处理
maggieC · 2024-01-10 · via 人人都是产品经理

将一个东西标准化,可以提高生产效率,数据也是如此。但在开始化之前,我们需要先来看看,哪些数据需要进行标准化处理,以及如何处理。

关于“数据标准化”,MBA智库百科的解释如下:

数据标准化是指研究、制定和推广应用统一的数据分类分级、记录格式及转换、编码等技术标准的过程。

主要指的是数据治理中的数据标准化工作,包括数据交换、数据质量和数据标准等一系列内容,可称之为“数据标准化体系建设”。在这个内涵下,要做好数据标准化,需要做:

  • 建立数据模型标准并落地标准化建模流程
  • 建立数据编码标准
  • 系统集成标准化

但我们今天所说的,并不是这个“数据标准化”。而是“数据预处理(也称 数据清洗)”中的一种数据处理手段。

在说“什么是数据标准化”之前,我们先来说说“为什么要做数据标准化”。

回想一下人类发展史,可以了解到,开启工业化时代的必要条件之一是——零件标准化。

没错,只有当工厂实现了“零件标准化”,才真正算是步入了工业化时代,生产效率得到了极大的提升。

为什么零件标准化能带来这么大的增效呢?

因为有了它,工厂生产零件可以完全按照图纸规范来,并且就算是不同厂家生产的零件,只要是按照图纸规范来的,都是可以通用的。此举大大提高了零件的质量和可用性,并且使得工厂之间的协同和合作变得尤为高效,零件再组装成更大的可用商品也就更高效和保质保量了。

对于数据来说,同样地,实现数据标准化,能够为整个数据生产链条带来效率的提升和质量的保证。

数据标准化需要将数据对象按照我们后续处理的要求切成所需的形态,我们要做的,就是定义这个“模具”并让它开始工作。

在讲到“如何做数据标准化”之前,我们需要先来看看,哪些数据需要进行标准化处理。

一、量级不一数据

比如现在要分析门店销售额和店均销量对门店竞争力的影响。在业务认知上,此两者的权重应是相当的。但数值的量级却是不一样的。

试想一下,如果让门店销售额和店均销量直接参与计算,会发生什么事?

门店销售额的数值量级远大于店均销量,必然就会导致店均销量对结果的影响被拉得微乎其微,而这并不符合业务实际,也不符合我们想要的影响因子系数配比。

那么这时候,就需要对这类数据进行“去量纲化”这种数据标准化的处理。

1. 去量纲化

那么“去量纲化”又怎么做呢?有哪些方法可以用?罗列如下。

min-max标准化

首先,我们需要确定一个原则,既然是“去量钢化”,那么我们要做的就是:把所有参与计算的自变量的取值区间拉到同一个区间。

min-max标准化这个方法即是将这个统一取值区间定义为:[0,1]。不管原本多大量级的指标,都需要经过处理后落在这个区间内。

问题又来了,如何处理能达到这个效果呢?

这里有个公式:(X-min)/(max-min),所有数据经过这个公式的运算后都可以落在[0,1]区间上。属于最简单的线性变换法。

z-score标准化

z-score标准化这个方法即是将这个统一取值区间定义为:围绕0上下波动。主要是基于均值判断单个具体值是偏高还是偏低。

这里的公式是:(X-Mean)/Std。大于0说明高于平均水平,小于0说明低于平均水平。

归一化

归一化与“min-max标准化”类似,都是使处理后的数据落在[0,1]区间。

公式:X / (x1+x2+…Xn)。对正数进行变换,将数值的绝对值变成相对值关系。

其他方法

其他的方法还有如中心化、均值化、区间化等都可以实现将数据处理到期望的确定范围内。

  • 中心化:X-Mean(让数据变成平均值为0的一组数据)
  • 均值化:X/Mean
  • 区间化:a+(b-a)*(X-Min)/(Max-Min)【可将数据压缩到区间[a,b]中】

二、指标作用方向不一数据

比如现在要分析不同商品的优劣,从而用于选品的决策。而评价商品的优劣则需要从多维度来评估,涉及到若干个指标。常见的,如动销和同质化。在业务认知上,代表动销的指标动销率、销量等,数值越高则商品表现越好;代表同质化的同功效SKU数,数值越低说明同质化程度越低则商品表现(稀缺性优势)越好。到这里,各位看官应该可以看出来,这两种指标的作用方向是不一样的,即:一个是越高越好,另一个是越低越好。

那么,如果让动销率和同功效SKU数直接参与计算,又会发生什么事?

商品评分随动销率的增高而增高,这没问题。但商品评分随同功效SKU数的增高而增高就不合理了,同质化程度的增加只能说明该商品的稀缺性和独特竞争优势走弱,商品评分应该随之降低才是符合业务实际的。

那么这时候,就需要对这类数据进行“负向指标正向化”这种数据标准化的处理。

1. 负向指标正向化

对于“同功效SKU数”这类负向指标,我们的处理方式是,套入如下公式:

(max-X)/ (max-min)

经过如此数据处理后,便可将负向指标转为正向指标,且结果将落在[0,1]区间内,从而实现了数据的标准化。

2. 中间型指标处理

作为负向指标正向化的变种,对于存在理想中间值的情况,可以采用如下方式:

公式:

作用:对中间型指标数据的线性变换,使结果落到[0,1]区间。原数据等于理想值,处理结果为1;原数据越靠近理想值,处理结果值就越接近1。

3. 区间型指标处理

除中间型指标处理外,还存在另一变种——区间型指标处理。公式如下:

在此方法里,[a,b]是假设的最佳区间。

作用:对区间型指标数据的线性变换,使结果落到[0,1]区间。原数据若在理想区间内,处理结果为1;原数据越靠近理想区间范围,处理结果值就越接近1。

对于这两类“不够标准化”的数据,经过以上两种处理之后,则满足了数据应用的标准,可以进行下一步使用了。这便是“数据生产链”中“数据标准化”工作的意义与常见的方法。希望对各位理解数据工作的具体内容有所帮助。

本文由 @maggieC 原创发布于人人都是产品经理,未经许可,禁止转载

题图来自 Unsplash,基于 CC0 协议。

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。