惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Hacker News: Ask HN
Hacker News: Ask HN
WordPress大学
WordPress大学
H
Help Net Security
小众软件
小众软件
N
Netflix TechBlog - Medium
C
Check Point Blog
量子位
Last Week in AI
Last Week in AI
GbyAI
GbyAI
Martin Fowler
Martin Fowler
M
MIT News - Artificial intelligence
博客园 - 聂微东
Engineering at Meta
Engineering at Meta
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
J
Java Code Geeks
D
DataBreaches.Net
Project Zero
Project Zero
P
Proofpoint News Feed
T
Threat Research - Cisco Blogs
Security Latest
Security Latest
Cisco Talos Blog
Cisco Talos Blog
Recorded Future
Recorded Future
I
Intezer
L
Lohrmann on Cybersecurity
Cyberwarzone
Cyberwarzone
博客园_首页
C
Cyber Attacks, Cyber Crime and Cyber Security
L
LangChain Blog
P
Palo Alto Networks Blog
V
V2EX
D
Darknet – Hacking Tools, Hacker News & Cyber Security
T
The Exploit Database - CXSecurity.com
The Hacker News
The Hacker News
Blog — PlanetScale
Blog — PlanetScale
G
GRAHAM CLULEY
T
The Blog of Author Tim Ferriss
C
Cisco Blogs
The Register - Security
The Register - Security
L
LINUX DO - 热门话题
P
Privacy & Cybersecurity Law Blog
Scott Helme
Scott Helme
F
Full Disclosure
博客园 - 司徒正美
Recent Announcements
Recent Announcements
IT之家
IT之家
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
Attack and Defense Labs
Attack and Defense Labs
Cloudbric
Cloudbric
Help Net Security
Help Net Security
The Last Watchdog
The Last Watchdog

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理, 企事业单位数字化的业务供需本质 – 人人都是产品经理, 医疗智能体·第1讲——医疗信息化重构:从“辅助软件”到“自主智能体”的范式转移 – 人人都是产品经理, 粉丝量就是空气!!! – 人人都是产品经理, 用户说“薯片碎了”,机器回“要买吗?”:意图识别的翻车与破局 – 人人都是产品经理, RAG召回准确率从75到90 我做对了这三件事 – 人人都是产品经理, AI大事件:Anthropic改收费、OpenAI发安全版、手术机器人纳入医保、阿里发布”秒悟” – 人人都是产品经理, Chrome 推出 Skills 新功能,Agent 重塑上网方式 – 人人都是产品经理, GitHub前创始人拿了a16z的1700万美元,做Agent时代的Git – 人人都是产品经理 拷贝或克隆其他 Flutter OH 项目到本地后无法运行 – 人人都是产品经理, 优惠券设计:优惠券创建 – 人人都是产品经理, 不用死磕文档!AI 助手 1 小时搞定飞书 CLI 安装 + 配置 + 知识库 – 人人都是产品经理, 用小龙虾做竞品分析报告:从2天到20分钟,我是怎么做到的 – 人人都是产品经理 用小龙虾做市场分析报告:搞懂这3个公式,市场规模不再靠猜 – 人人都是产品经理, 你早就在做 Harness 工程,只是不知道它叫这个名字 – 人人都是产品经理, Think Long就够?你可能想多了! – 人人都是产品经理, 货代SRM实战:供应商准入怎么做,才能让资源池不是通讯录而是可交付网络? – 人人都是产品经理, 如何做好用户调研?详解基本技巧 – 人人都是产品经理, 木鸟、途家、美团对打,平台春天行动开“卷” – 人人都是产品经理, 入职才发现公司不靠谱?小红书从业者求职避坑指南 – 人人都是产品经理, 美国 AI 三巨头联手封堵,中国 AI 突围之路在何方 – 人人都是产品经理, 小红书,放在需求对面的镜子 – 人人都是产品经理, AI 会带来大规模失业吗? – 人人都是产品经理, 从出单到补货前,我第一次犹豫:该不该放大? – 人人都是产品经理, Flutter 三方库鸿蒙化适配:5 种高效检查方式,快速判断是否需要适配 – 人人都是产品经理, 从做产品进阶拿结果:医美机构产品经理转岗科室运营经理 – 人人都是产品经理, 阿里HappyHorse,一场关于“Token经济”的阳谋 – 人人都是产品经理, To B AI:客户留存落地的观察与思考 – 人人都是产品经理, AI产品的“生命线”——数据采集、标注、清洗的产品化设计 – 人人都是产品经理, 谈谈AI Agent(二):当“孩子”能自己“体验世界”时,你该学什么? – 人人都是产品经理, UI/UX设计师的3层能力进阶,前两层让你活下来,第三层…才是真正的分水岭 – 人人都是产品经理, 2分钟 → 30秒,效率提升75%:B端产品经理如何用「规则枷锁」驯服AI幻觉? – 人人都是产品经理, 还没来得及学OpenClaw,来了个更猛的:Hermes Agent – 人人都是产品经理, AI日报:宇树机器人跑出10m/s刷新世界纪录 – 人人都是产品经理, 一文说透基金互金如何用情绪价值引导用户决策做转化 – 人人都是产品经理, 当浏览器开始替你”看”网页:AI 浏览器正在亲手拆掉它脚下的那张网 – 人人都是产品经理, 0代码,一天时间我Vibe Coding了个网站 – 人人都是产品经理, Hermes 和 OpenClaw 之争,Agent 的能力应该“装上去”还是“长出来”? – 人人都是产品经理 视频生成的“桌子”,字节Seedance 2掀完,阿里快乐马掀 – 人人都是产品经理, 从听不懂到完全信任:我的 Codex 深度产品体验 – 人人都是产品经理, 当虚拟偶像有了北京户口,与真人偶像还有什么区别? – 人人都是产品经理, 会说,远远比会做更重要 —— 对 SBTI 爆火现象的五层观察 – 人人都是产品经理, AI产品经理必看:当“搭环境”比“选模型”更重要,你的认知还在2024年吗? – 人人都是产品经理, 2026年AI产品商业化核心逻辑:从功能demo到规模化营收的3个必破卡点 – 人人都是产品经理, 京东围绕供应链,卷起裤腿下场的那些事儿 – 人人都是产品经理, SBTI一夜刷屏:它赢在了“太会说人话” – 人人都是产品经理, 折扣零售的真相:不是便宜,而是价值感! – 人人都是产品经理, 和甲方吵了一架,最后加钱做了——我学到的ToB产品经理生存法则 – 人人都是产品经理, 和几位小红书操盘手聊了8小时,干货全在这 – 人人都是产品经理, 智谱GLM-5.1登场,开源模型首超Opus4.6!!! – 人人都是产品经理 Anthropic收入凭什么反超OpenAI,终于有人把这事说清楚了 – 人人都是产品经理, 史上最有故事感的技术报告——Claude最强模型Mythos 7个极其精彩的细节 – 人人都是产品经理, 模型不是壁垒,Harness 也不是 – 人人都是产品经理, 抖音本地生活业务思考21 – 人人都是产品经理, Superpowers:145k Star的AI编码框架,到底是什么来头? Superpowers:145k Star的AI编码框架,到底是什么来头? – 人人都是产品经理, OpenAI 的路走错了,Anthropic Harness 解法启示:模型需要实践专科生 – 人人都是产品经理, 画原型图的前一步:设计站点地图 – 人人都是产品经理, 给 DeepSeek 的最后一封催更信 – 人人都是产品经理, 手把手教你用 Claude Code 搭建 AI 营销团队:5 个 Agent、12 项技能,独立完成研究、写作、设计全流程 – 人人都是产品经理, 你以为大模型在学语言?不,它在重新发明语言学 – 人人都是产品经理 所谓Skill,不过是AI时代的工业垃圾 – 人人都是产品经理, 聊一聊内容传播的几个方法 – 人人都是产品经理, 当平台开始吃掉生态:从 OpenClaw 被封杀,读懂 Anthropic 的这盘棋 – 人人都是产品经理, 你装了 10 个 AI 插件,Obsidian 还是一个文件夹 – 人人都是产品经理 关于AI智能体架构演进的系统性思考:从单体试水到多体协同的重构 – 人人都是产品经理, 当“人”变成Skill,我们又该何去何从? – 人人都是产品经理 Mythos 事件:前沿 AI 治理的意外实验 – 人人都是产品经理, 货代CRM:信用与风险管理怎么做,才能把坏账风险拦在放货之前? – 人人都是产品经理, 从HR收集自拍照到员工自助录入——我见证了园区人脸识别从”不可用”到”真好用”的全过程 – 人人都是产品经理 千问闯关AI混沌期:阿里画靶,吴嘉张弓,马云射箭? – 人人都是产品经理,
人工智能的人工部分—数据标注(下)
杰运规划 · 2024-02-04 · via 人人都是产品经理

大模型背后,大多需要数据标注甚至人工标注的支持,那么,怎么理解数据标注呢?这篇文章里,作者主要从业务角度出发,介绍标注规则的细则构建、标注团队培养与管理的具体方法,一起来看。

如今的人工智能已是大模型的天下,但再强的智能,再大的模型,也需要人工标注的支持。上篇文章主要介绍了数据标注的分类、标注规则制定的原则,本篇文章主要从业务角度出发,介绍标注规则的细则构建、标注团队培养与管理的具体方法。

一、标注规则构建

为了便于大家理解,本模块主要参考王阳明先生“格物致知”的逻辑去展开,说明标注体系的搭建过程,就是一个“悟道”的过程,当然自己才疏学浅,如有运用不当的地方,希望大家多多包涵!

1. 单因子拆解标注——析物

上篇文章讲了标注规则的三步法:单因子标注、多维因子排列组合、综合策略评分,其中最基础也是最重要的一环就是第一步:单因子标注,就是将所有影响标注结果的因素依次列举,对每个影响因素单独标注。

例如,标注简历与职位的匹配度,即模拟HR招人的思路给推荐的简历打分,首先要将影响HR招人的因素全部列出来,例如工作地点、行业类别、薪资水平、学历要求、专业要求等。

然后分别对每个因素进行标注打分,打分时要将行业的一些通用规则考虑进去,例如,某职位要求学历是本科,这里的本科大概率是指全日制统招本科,而不是花点钱就能上,或者根本不需要学习就能获得证书的成考或自考本科。

那么问题来了,如何识别统招学历呢?什么样的学历属于全日制的呢?哪些院校是统招的呢?野鸡大学算不算统招的呢?有没有识别野鸡大学的方法?

仅学历一个因素标注细则就很多,识别逻辑也很复杂,我们要将十几项因子里的每一项,都进行多维度深度思考与分析,并给出可衡量的标注规则与指标。这一层的核心是“析物”,即深入剖析每一个因子,直到剖到每个因子的根部,程颐认为,凡一物上有一理,须穷致其理。

2. 多因子排列组合——量物

在上篇文章就讲到,多因子排列组合不是单纯的给每个因子赋予固定的权重,而是将每个因子结合具体场景,分析各因子在具体场景中的的重要程度,因为场景不同,标注细则就不同。

那么有哪些具体场景呢?

第一,标注对象不同,标注细则就不同,在招聘业务中,标注对象是职位,职位类型不同标注的关注点就不同,比如,招聘销售类岗位关注行业经验、业绩能力、客户群体等,招聘蓝领岗位只要候选人愿意做、身体健康即可,招聘财务类岗位则会要求资格证书。

第二,各影响因子的程度不同,标注细则也不同,比如要招聘一位初级文员,但是候选人年龄超过了50岁,再比如要招聘一名销售员,但是候选人五年前做过销售,现在早就不做销售了,而且也不想再做销售了,类似这种情况可能因为这一个因子,总分就可能给到0分。

所以标注细则的场景数量,是标注对象类型与影响因子的乘积,但在招聘业务场景中,标注对象类型有1000多种,影响因子有十多种,所以标注细则是一万多条吗?在实际操作中不可能列出所有场景,并给出所有的标注细则,这些场景需要标注员基于实际业务灵活运用规则。这一层的核心是“量物”,即衡量所有标注对象,并将其与影响因子融会贯通,活学活用,找到那个平衡的度。

3. 各因子融会贯通——悟物

在第二步中讲到标注细则的场景数量,是标注对象类型与影响因子的乘积,这个数量级太大了,在实际业务中需要融会贯通,但是怎么能做到融会贯通呢?有没有一些归类方法,或针对不同场景的指导思想呢?

答案是肯定的,首先,影响因子可以按照对最终结果的重要程度分为三类:重要因子,时而重要因子,弱项影响加减分的因子,其次,职位类别可以按照对专业技能的强弱分为四类:强技能类职位,较强技能职位,弱技能职位,无技能职位,最后,根据此等分类,我们得到了12种场景,此时我们可以针对这12种场景做细节的标注规则了。

分类之后是汇总,就是所谓的融会贯通,不管是规则制定者还是标注员,到这一阶段都要到达一种境界,就是忘掉之前的细节规则,从良知出发评估简历与职位的匹配度,是非常匹配,还是比较匹配,还是不太匹配,还是非常不匹配,也就是王阳明先生所谓的“致良知”。

完成最终评分后,不要忘记将不匹配的原因以标签的形式固定下来,这样便于后面的问题分析与策略优化。

二、标注团队管理

1. 新人培训与管理

无规矩不成方圆,可见规矩是形成方圆的关键,但是方圆之内要有田地苗木,才是一块好的方圆之地,标注规则就是这规矩,而标注所依赖的领域知识就是其中的田地苗木,所以新人入职首先要学习标注规则,但同时也要学习领域知识,尤其是专业性比较强的领域,如此两条腿走路,才能学好整个标注体系。

在学习的前提下,标注练习是必不可少的,首先可以做单因子标注的练习,合格之后再进行综合评分的练习,此时的练习,最好是有正确答案的,这样可以随时监督新人练习的进度和质量,也可以制定一套新人培训学习体系,里面不仅要包括要学的内容,还要列清楚练习期间的任务数量,以及每个阶段所要达成的质量指标,以此来评判新人培训期间的成绩。

2. 质量把控与管理

相信做过标注工作的同学都明白,低质量的标注数据会直接影响模型的训练效果,所以数据质量是标注工作的重中之重。保证标注质量的前提是做好任务的培训,明确标注需求、标注方法和验收标准。数据验收环节一般会采用自检、交叉检验,或者按任务进行分类检验的方式进行检验,甚至大一些的标注团队会设置专门的质检小组,对标注员的标注结果进行抽检或全检。

本文重点介绍另外一种质检方式,即提前插入正确样本,以检验标注质量的方式,此种方式可以节约一定的成本,因为不用进行双验或多验了,还能时刻检验标注员的工作态度,以及对任务是否真的理解,能否达到要求的质量标准,如果发现质量不合格,则可以立刻更换标注员或进行再次培训。

此种方式主要适用于结构化且需要长期标注的项目,要提前设置好正确样本,建任务时插入样本,至于插入的比例,可以根据具体任务需求,或不同标注人群进行设置。

需要注意的是,一组正确样本如果长期使用,可能标注员都记住哪些是样本了,所以一定要经常更换正确样本,以达到“混淆视听”的效果,此外还需要保证正确样本的质量,不能出现正确样本不正确的情况。标注质量把控是一项非常重要,也非常有难度的事情,后续可能会单独写一篇质量把控相关的文章,请大家多多关注。

至此,整个标注体系的重点工作或原则都讲完了,如有不足或错误的地方,还希望大家能不吝赐教,指正出来。开篇就说到,如今的人工智能已是大模型的天下了,那么下篇文章会重点讲讲大模型标注那些事,请大家多多关注。

本文由 @艳杰 原创发布于人人都是产品经理。未经许可,禁止转载

题图来自Unsplash,基于CC0协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。