惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
MongoDB | Blog
MongoDB | Blog
博客园_首页
博客园 - 三生石上(FineUI控件)
博客园 - 聂微东
B
Blog RSS Feed
D
Docker
IT之家
IT之家
大猫的无限游戏
大猫的无限游戏
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
阮一峰的网络日志
阮一峰的网络日志
罗磊的独立博客
Recent Announcements
Recent Announcements
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
A
About on SuperTechFans
The GitHub Blog
The GitHub Blog
G
Google Developers Blog
V
V2EX
量子位
雷峰网
雷峰网
月光博客
月光博客
云风的 BLOG
云风的 BLOG
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
T
Tailwind CSS Blog

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理,
最强调优攻略:如何从四种调优技术中做出最佳选择?
柳星聊产品 · 2024-04-11 · via 人人都是产品经理

在前面的文章中,我们分享了公司做大模型的调优、预训练方法等,但方法这么多,如何选择适合自己的方法和技术呢?本文作者分享了四种方法的选择技巧,希望可以帮到大家。

通用大模型之所以需要调教,就是因为在专业领域上还无法实现全场景的应用。

从细节出发,我们该如何比较和选择那个最能满足我们需求的模型调优技术?是否有一种方法既可以减少成本,又能增强模型表现?

我们将深入浅出地带您一探究竟,逐一解析,并预测未来调优的发展趋势。(最后有一份对比图,可以划到最底部保存)

01 四种方案的优势分析

提示词工程:简单有效的微调术

提示词工程是一种直观而高效的技术,它通过精心设计的提示词来引导模型的输出,使得模型更好地适应特定的任务或数据集。

比如,在NLP任务中,我们可以通过添加语境信息,改变问题的提法,进而改善模型对问题的理解。这种技术由于其操作简便、不需要额外的模型训练,因而受到许多企业的欢迎。

微调(SFT):成本低廉且广泛适用的基本招数

微调(SFT)涉及到在预训练的模型基础上,针对特定任务进行额外训练的过程。这种方法使用大量的标签数据,通过调整模型的权重以适应新任务。

SFT是一种成本较低且实施起来相对简单的调优方法,适用于多种不同的任务和领域,使得它成为了许多企业的首选技术。

强化学习与人工反馈(RLHF):高质量输出的保证

强化学习与人工反馈(RLHF)技术则是在SFT的基础上增加了人类评估者的反馈。这种方法更侧重于模型输出质量的优化,因为人类评估者能为模型提供更细致和严格的指导。

RLHF常用于需要高质量输出的场景,如内容生成和客户互动等方面,其主要挑战在于高昂的成本和实施的复杂性。

预训练:大企业,领域基底模型的选择

与以上技术不同, 预训练的模型调优方法通过对大型数据集进行预先训练,在模型中构建通用的知识框架。

这项技术在小数据集任务中展现出极高的效率,因为它的通用性允许模型仅使用少量的数据就能进行有效的学习。预训练是最为深入和广泛的一种方法,不过它通常需要高昂的计算资源投入。

02 明确你的需求和资源

在模型调优技术的选择上,企业需首先清晰地界定自身的需求,包括预期目标、数据可用性、预算限制和长期发展策略。

第一,确定目标:清晰具体化

企业应明确自己希望模型达成什么样的具体目标,如提升用户体验、优化算法性能还是减少运营成本。例如,一个寻求优化客服系统的电信公司,可能会对模型的交互能力和快速响应时间有特别的需求。

第二,数据审视:充分利用现有资源

企业需要根据自身数据的质量和数量来选择调优方法。若拥有大量高质量数据,简单微调可能是一个成本效益较高的选择。若数据量较少但寻求深度优化,预训练或RLHF可能更加合适。

第三,成本考虑:合理规划投资

成本是另一项重要因素,企业需要权衡调优技术带来的长期收益与短期投入。高成本并不总是等同于高回报,因此企业必须结合实际情况审慎评估。

第四,手段与目的:预见未来需求

此外,选择模型调优技术时,也需要思考其长期对企业策略的影响和可增长性,预训练模型或许起步较慢,但它在未来的迭代和应对新任务时会显示出巨大的潜力。

通过以上四个环节,企业便能够建立适合自身发展的模型调优指南,最终实现数据驱动的决策制定。

03 模型调优的技术发展趋势

在模型调优领域,未来的走势正在形成一条明显的分叉路:一方面是看似简单但强大的提示词技术,另一方面则是微调技术,特别是随着通用大模型越来越智能的发展。

核心:以成本更低的方式提供基础资源

提示词工程:简单、精准

未来的调优技术将更加倾向于使用提示词,这种方法能够直接利用通用模型的强大能力,而无需进行复杂的定制化开发。

随着时间推移和大模型智能化程度的提升,很多应用场景都将能够通过简单的提示词就实现高质量的输出,这将极大简化企业在AI技术上的应用流程。

微调(特指部分参数):低成本、高效率

对于那些有着特殊需求的场景,微调技术依然是一项价值巨大的工具。

随着数据的日益丰富和计算能力的提高,即使是非常特定的任务,也可能只需通过低成本的、甚至极少量的微调便可达到预期效果。

大模型给微调带来的是更灵活的适应性,减少了对领域特定知识的注入需求。

在未来的5年内,预计全球能够开发维护通用巨型模型的公司不会超过十家。

这意味着,对于多数企业来说,调优技术的未来将聚焦于如何更有效地应用这些智能大模型,而非构建。

这一变化将彻底改变企业在AI领域的策略,将目光从建造转移到精细操作与应用上来。

04 最后的话

在模型调优技术日益丰富多样的今天,企业如何做出明智的选择,优化自身业务,显得尤为重要。

这需要明确自身需求、理解调优技术的特性,以及关注技术发展的最新趋势。

我整理了一张对比表,希望对你有用。

我认为未来可能大家都不会讨论大模型技术,而是将它视为一个基础技术,它是无形的,而最终的落脚点是如何服务人类,提升国民的生活水平。

如果,对于大模型的应用你还是初学者,请记得一句话:把AI当人看

希望带给你一些启发,加油。

作者:柳星聊产品,公众号:柳星聊产品

本文由 @柳星聊产品 原创发布于人人都是产品经理。未经许可,禁止转载。

题图来自 Pixabay,基于 CC0 协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。