惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

量子位
WordPress大学
WordPress大学
小众软件
小众软件
云风的 BLOG
云风的 BLOG
IT之家
IT之家
人人都是产品经理
人人都是产品经理
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
Last Week in AI
Last Week in AI
博客园 - 【当耐特】
T
Tailwind CSS Blog
阮一峰的网络日志
阮一峰的网络日志
V
V2EX
宝玉的分享
宝玉的分享
博客园 - Franky
F
Fortinet All Blogs
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
GbyAI
GbyAI
Hugging Face - Blog
Hugging Face - Blog
Jina AI
Jina AI
D
Docker
博客园 - 聂微东
C
Check Point Blog
H
Help Net Security

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理,
模型微调:训练集&验证集&测试集
AI思·享@蓉77 · 2025-08-29 · via 人人都是产品经理

大模型时代,微调已成为产品落地的关键环节。但很多人对“训练集、验证集、测试集”的划分逻辑仍模糊不清。本文将从数据集的功能定位出发,梳理微调流程中的关键节点,帮助你建立清晰的模型调优认知框架。

在做模型微调时,我们总在追问一个问题:模型到底调得好不好?

但“好不好”不是主观判断,更不能只看 loss 降了没、F1 提高了没。你真正要做的,是确保模型对未知数据具备稳定的泛化能力。而评估这个问题的基础,不是参数,不是模型结构,而是你是否搞清楚了这三类数据的边界和作用:训练集、验证集、测试集

这篇文章就是为了解决一个核心问题:训练、验证、测试三类数据集,我们到底要搞清楚哪些关键点?

1. 它们分别是什么?——不是“都用来训练”的

  • 训练集:模型学习参数的地方。它是“教材”,模型直接在上面反复拟合,loss就是在这上面算的。
  • 验证集:训练过程中用来评估模型表现的数据集,用于调参、早停、选结构,但本身不参与训练。
  • 测试集:训练和调参全部结束后才使用,用于评估最终泛化能力。它是真正的“考试卷”,结果直接决定模型能不能上线。

关键点:验证集 ≠ 测试集,不能混用。前者参与调参,后者必须独立留存、只评估一次。

2. 怎么划分?——不是固定比例,而是视情况而定

划分比例要根据数据量来定,按照训练集/验证集/测试集顺序:

  • 数据量大(>10万):推荐80%/10%/10%,训练集多给,验证和测试也足够产生统计稳定性。
  • 中等规模(1万~10万):建议70%/15%/15%或75%/15%/10%,保证每个阶段都有代表性。
  • 数据少(<1万):可用K-fold交叉验证,或采用80%/20%(验证+测试)的训练,验证+测试组合,最后用hold-out评估。

关键点:划分不只是数字分配,而是为后续各阶段的判断提供干净、合理的数据依据。

3. 什么时候用?——三阶段推进逻辑要清晰

关键点:测试集不是“看看效果”这么简单,它是上线与否的最终评判标准。

4. 看什么指标?——指标种类随阶段推进而变化

关键点:指标种类不是越多越好,而是越靠后越细。训练关注模型学得对不对,验证关注泛化是否稳定,测试关注结果能否交付。

5. 指标值怎么变化?—— 一定变,而且变化有规律

一般来说,三个阶段的指标值会逐步下降。如果下降很小,说明模型泛化性好;如果训练集很高、验证集和测试集很低,就说明模型过拟合了。

关键点:不是看哪个值高,而是看三者之间的落差是否合理、是否稳定。

这正是为什么说:模型微调不是调一个数值变漂亮,而是验证一个过程是否稳得住。模型效果看起来不错,不代表它能泛化;只有训练、验证、测试三者的指标走势符合规律,落差可控,你才能说:这个模型,不只是能学,而是能用。

所以,你调的不是 loss,而是在验证泛化能力。

真正靠谱的微调流程,从来不是“训练得多就行”,而是对每一阶段都心中有数:

  • 我在训练集上,模型是不是学得会;
  • 验证集反馈,是否能稳定指导调参;
  • 测试集结果,是不是唯一一次真实模拟上线表现。

别再混淆它们的角色,也别再用验证集“顺手一评”就当结论交差。搞清楚这三者的边界与节奏,是你真正具备构建可交付模型能力的标志。

本文由 @AI思·享@蓉77 原创发布于人人都是产品经理。未经作者许可,禁止转载。

题图来自 Unsplash,基于CC0协议。

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。