惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Blog — PlanetScale
Blog — PlanetScale
J
Java Code Geeks
N
Netflix TechBlog - Medium
Martin Fowler
Martin Fowler
A
About on SuperTechFans
腾讯CDC
B
Blog RSS Feed
H
Hackread – Cybersecurity News, Data Breaches, AI and More
Microsoft Azure Blog
Microsoft Azure Blog
D
Docker
Y
Y Combinator Blog
Microsoft Security Blog
Microsoft Security Blog
F
Fortinet All Blogs
I
InfoQ
博客园 - 【当耐特】
美团技术团队
GbyAI
GbyAI
量子位
宝玉的分享
宝玉的分享
爱范儿
爱范儿
有赞技术团队
有赞技术团队
博客园 - Franky
L
LangChain Blog
阮一峰的网络日志
阮一峰的网络日志

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理,
Sora大秀开启大模型新纪元,如何看待算力挑战?
科技旋涡 · 2024-02-26 · via 人人都是产品经理

AI技术不断发展,与之相应的,算力需求也不断增加。如何看待当前AI时代所面临的算力挑战呢?这篇文章里,作者分享了他的看法,一起来看一下。

今年春节我们见证了Sora的惊艳表现。现在的大模型,已经进入了新的发展阶段。从技术,到具体的应用场景,生成式AI正在更多领域,发挥出惊人的潜力。

麦肯锡报告显示,生成式AI每年将为全球经济增加4.4万亿美元的价值。生成式AI可自动化节省 60%到70%的员工时间来提高生产力。在2030年至2060年间,有近一半的工作将实现智能化水平。

但是不可否认的是,随着AI不断发展,它对于算力的需求会持续增加,这也让整个行业都处在“焦虑”之中,如何破解AI时代的算力危机,也成为行业必须面对的问题。

一、生成式AI爆发,对企业价值体现

当下,大模型主导的生成式AI,尤其是GPT-4的发布,让人类社会看到了通用人工智能时代的曙光。这意味着,作为生产力工具甚至是数字时代的“新基建”的人工智能技术,不用再局限于单一或有限场景,而是能够在众多领域像人类一样进行思考、解决问题,并进行持续、快速的自我进化,因此,大模型主导的生成式AI,将拥有极为广阔的应用前景,有望赋能千行百业。

随着生成式人工智能的爆发,对企业和个人的价值带来了许多新的机遇和优势:

  • 创造性内容生成:生成式 AI 可以帮助企业和个人快速生成创造性的内容,包括文字、图像、音频和视频等。这些内容可以用于广告营销、品牌宣传、内容创作等方面,为企业和个人节省时间和成本,提高创作效率和质量。
  • 个性化服务和体验:生成式 AI 可以根据用户的个性化需求和偏好生成定制化的服务和体验。企业可以利用生成式 AI 技术提供个性化的产品推荐、定制化的服务等,提高用户满意度和忠诚度。
  • 创新和产品开发:生成式 AI 可以帮助企业和个人快速生成新的创意和概念,促进产品和服务的创新和开发。通过生成式 AI 技术,可以快速验证和探索各种想法和可能性,为创新提供更多可能性。
  • 数据增强和扩展:生成式 AI 可以帮助企业和个人生成大量的合成数据,用于数据增强和扩展。这些合成数据可以用于模型训练、数据标注、测试和验证等方面,提高模型的性能和泛化能力。
  • 个人创作和娱乐:对于个人而言,生成式 AI 可以成为创作和娱乐的有力工具。通过生成式 AI 技术,个人可以快速生成各种艺术作品、创意内容和娱乐产品,拓展个人创作和娱乐的领域。

但是,值得注意的是,生成式 AI 对算力的需求通常较高,特别是在训练大型模型和处理大规模数据时。由于生成式 AI 模型通常具有复杂的结构和大量的参数,因此需要大量的计算资源来进行训练和推理。随着生成式 AI 技术的不断发展和应用,对算力的需求将会继续增加,需要更多的计算资源来支持。

二、AI狂奔,算力问题不可忽视

随着AI技术的迅速发展,越来越多的人开始关注AI算力问题。AI算力问题指的是,在处理复杂的AI模型和算法时需要大量的计算资源,而这种计算资源又需要消耗大量的时间和能源。

以下是生成式 AI 对算力需求的一些方面:

模型训练:生成式 AI 模型的训练是一个非常计算密集的过程。这些模型通常由数百万甚至数十亿个参数组成,需要在大规模数据集上进行多轮迭代的训练。由于训练过程中需要进行大量的矩阵运算和梯度计算等计算密集型操作,因此需要强大的计算资源来加速训练过程。

例如,ChatGPT的训练参数达到了1750亿、训练数据45TB,每天生成45亿字的内容,支撑其算力至少需要上万颗英伟达的GPU A100,单次模型训练成本超过1200万美元。

推理和生成:一旦生成式AI模型训练完成,推理和生成过程也需要大量的计算资源。在推理过程中,模型需要根据输入数据生成相应的输出,这涉及复杂的矩阵运算和神经网络计算,因此需要强大的计算能力来保证推理速度和生成质量。

制造冲突性单个Token的推理过程整体运算量为 2×大模型参数量,因此大模型推理侧每日算力需求=每日调用大模型次数×每人平均查询Token数量×2×大模型参数量,仅以Google搜索引擎为例,每年调用次数至少超过2万亿,一旦和大模型结合,其AI 算力需求将十分可观。

模型优化和调整:生成式AI模型的优化和调整也需要大量的计算资源。在模型训练完成后,通常需要对模型进行调参、微调和优化,以进一步提高模型的性能和生成质量。这些过程也需要耗费大量的计算资源。

大规模数据处理:生成式AI模型通常需要在大规模数据集上进行训练和推理,因此需要强大的计算资源来处理和管理这些数据。这包括数据的存储、读取、预处理等过程,需要高效的计算资源来支持。

因此,我们看到,对于算力需求,随着AI技术的发展和应用场景的扩大,算力需求也在不断增加。AI模型的训练和推理都需要大量的计算资源支持,特别是深度学习模型等复杂模型需要更多的算力来训练和运行。

三、算力未来发展趋势

随着这个趋势的深入,半导体行业的收入叶城县指数级增长。Gartner预计,AI半导体收入将在预测期内继续保持两位数增长,2024年将增长25.6%,达到671亿美元(约4884.88亿元人民币),到2027年,AI芯片收入预计将比 2023 年的市场规模增长一倍以上,达到1194亿美元(当前约8692.32亿元人民币)。

因此,面对AI对于算力的需求以及算力市场的发展,算力行业也有一些措施来应对:

  • 提高硬件性能和效率:算力行业应该不断提升硬件设备的性能和效率,包括 CPU、GPU、TPU等,以满足 AI 技术对算力的不断增长需求。同时,还可以通过优化硬件设计和制造工艺,提高算力设备的能效比,降低能耗成本。
  • 推动算力技术创新:算力行业应该持续推动算力技术的创新,包括算法优化、并行计算、分布式计算等方面。通过不断创新和提升技术水平,提高算力设备的性能和效率,降低计算成本,满足 AI 技术的需求。
  • 拓展云计算服务:算力行业可以通过拓展云计算服务,为企业和个人提供弹性的计算资源,满足不同场景下的算力需求。通过提供云计算服务,可以实现资源的灵活调配和共享利用,提高算力资源的利用率和效率。
  • 加强行业合作与共享:算力行业可以加强与企业、研究机构等相关领域的合作与共享,共同推动算力技术的发展和应用。通过合作共享的方式,可以更好地利用各方资源,提高算力行业的整体竞争力和服务水平。

综上所述,随着 AI 技术的发展和应用,算力需求将会持续增加,算力行业应该通过提高硬件性能和效率、推动技术创新、拓展云计算服务、加强行业合作与共享等措施,应对这一趋势,实现行业的持续发展和进步。

四、我国算力领域发展如何?

我国算力产业规模快速增长,近5年平均增速超过30%,算力规模排名全球第二。各地根据自身资源禀赋特点和产业优势,纷纷制定规划,加快布局发展算力产业。

一方面,加快打通通道,推动数据快进快出,相继建成国家级互联网骨干直联点、国际互联网数据专用通道、根服务器镜像节点和国家顶级域名节点,加快建设全国“东数西算”南线主干道。另一方面,通过建设算力超市和算力调度平台,组织算力提供方、需求方和上下游企业进场对接。

相关数据显示,截至目前,全国在用数据中心机架总规模超过760万标准机架,算力总规模达到每秒1.97万亿亿次浮点运算(197EFLOPS),位居全球第二,服务器、计算机、智能手机等计算类产品产量全球第一,围绕算力枢纽节点建设130条干线光缆,算力应用广泛深入到政务、工业、交通、医疗等领域,不断催生新技术、新模式、新业态,算力赋能千行百业正向纵深推进,成为传统产业转型升级的重要支点,为经济高质量发展注入了强大动力。

写在最后

当前,数字经济作为新经济形态,正成为重组全球要素资源、重塑全球经济结构、重构全球竞争格局的关键力量。当前,我国算力产业已初具规模,正加速向政务、工业、交通、医疗等领域拓展深化,推动互联网、大数据、人工智能与实体经济深度融合,持续赋能千行百业。

作者:贾桂鹏

来源公众号:元宇宙新声

本文由 @元宇宙新声 原创发布于人人都是产品经理。未经许可,禁止转载。

题图来自 Unsplash,基于 CC0 协议。

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。