惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

J
Java Code Geeks
GbyAI
GbyAI
Google DeepMind News
Google DeepMind News
Jina AI
Jina AI
B
Blog
aimingoo的专栏
aimingoo的专栏
酷 壳 – CoolShell
酷 壳 – CoolShell
T
The Blog of Author Tim Ferriss
Last Week in AI
Last Week in AI
月光博客
月光博客
H
Help Net Security
V
Visual Studio Blog
量子位
A
About on SuperTechFans
博客园 - Franky
人人都是产品经理
人人都是产品经理
N
Netflix TechBlog - Medium
云风的 BLOG
云风的 BLOG
雷峰网
雷峰网
Martin Fowler
Martin Fowler
Microsoft Security Blog
Microsoft Security Blog
博客园 - 叶小钗
P
Proofpoint News Feed
MongoDB | Blog
MongoDB | Blog

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理,
大白话告诉你,什么是模型微调
向上的小霍 · 2024-11-15 · via 人人都是产品经理

这篇文章将用通俗易懂的语言带你走进模型微调的世界,揭示它是如何将一个广泛学习的预训练模型,通过精细调整,使其在特定领域达到更高的专业水平。

模型微调其实就是让一个非常博学的通才,着重再学习某一个领域的知识,进而变成专才的这么一个过程。

非常博学的通才,就是指的预训练模型,也叫通用大模型或基座模型,比如最出名的GPT,还有谷歌的BERT,百度的ERNIE,其实都是预训练大模型。

这些预训练模型经过了全量的训练,学习了世间非常多的知识信息,几乎就是一本百科全书。

而且预训练模型也已经掌握了很多通用的知识模式,比如语言结构,语义特征等,拥有了识别用户意图,生成文本或图片、视频等能力。

你可以理解预训练模型已经是一个本科生的水平了,你需要通过微调,让预训练模型学习更多特定专业领域的知识,让它在某个领域里达到研究生甚至是博士生的水平,满足在不同特定领域里的实际应用需求。

之所以叫模型微调,重点就是在一个“微”字上,相较于预训练大模型在训练时的海量数据学习,模型微调用到的数据,简直就是九牛一毛。

相应的模型微调所需要的时间和算力资源也会少很多,可以比较高效、且低成本的训练出满足业务需求的模型进行后续的评估部署及应用。

比如要通过微调进行影评的情感分类,首先需要选择合适的预训练模型,是文本类的,还是视频类的,像影评的话,就可以选择一个文本类的预训练模型,例如BERT。

然后要在保证数据质量的前提下,收集准备尽可能多的影评数据,并将收集到的数据集按照8:1:1或7:2:1的比例,划分为训练集、验证集、测试集。

训练集可以用来进行模型训练,验证集可以在训练过程中,根据验证集结果和模型性能,调整模型的一些参数,最终达到模型可用状态,测试集用来最终评估模型的效果。

验证集和测试集虽然都是用来看模型效果的,但还是有区别的,因为验证集在模型训练过程中,起到了验证结果,调整参数的作用,所以说单纯的看验证集结果,模型实际的效果可信但又不完全可信,所以还是不能少了测试集。

数据集搞定后,接下来就是准备进行模型训练了,训练前需要选用合适的微调策略,比如是全量微调,还是部分微调,是采用LoRA微调还是SFT微调,具体的技术细节就不做探讨了,只需要知道模型微调策略的本质,其实就是调整预训练模型的参数,通过训练获得一版符合业务要求的模型。

模型微调时,模型一般会进行多轮训练,训练过程中需要根据验证集的损失、准确率等指标调整模型超参数(包括学习率、迭代次数、批量大小、正则化参数、优化器选择等)。

模型训练后,就可以用测试集来验证模型的实际效果,评估模型的最终性能。

以上就是模型微调的一个大概步骤,具体的技术细节没有做详细阐述,感兴趣的同学可以自行学习一下。

本文由 @向上的小霍 原创发布于人人都是产品经理,未经作者许可,禁止转载。

题图来自Unsplash,基于CC0协议。

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。