惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

AI
AI
博客园 - 叶小钗
Blog — PlanetScale
Blog — PlanetScale
Microsoft Azure Blog
Microsoft Azure Blog
Vercel News
Vercel News
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
MyScale Blog
MyScale Blog
大猫的无限游戏
大猫的无限游戏
A
About on SuperTechFans
量子位
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
博客园 - 【当耐特】
Martin Fowler
Martin Fowler
阮一峰的网络日志
阮一峰的网络日志
D
Docker
Jina AI
Jina AI
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
The Register - Security
The Register - Security
J
Java Code Geeks
S
SegmentFault 最新的问题
月光博客
月光博客
G
Google Developers Blog
美团技术团队
Last Week in AI
Last Week in AI
L
LangChain Blog
Apple Machine Learning Research
Apple Machine Learning Research
T
The Blog of Author Tim Ferriss
腾讯CDC
Recent Announcements
Recent Announcements
Recorded Future
Recorded Future
The Cloudflare Blog
有赞技术团队
有赞技术团队
博客园_首页
博客园 - 聂微东
人人都是产品经理
人人都是产品经理
B
Blog
I
InfoQ
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
F
Fortinet All Blogs
B
Blog RSS Feed
Engineering at Meta
Engineering at Meta
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
Microsoft Security Blog
Microsoft Security Blog
MongoDB | Blog
MongoDB | Blog
爱范儿
爱范儿
D
DataBreaches.Net
F
Full Disclosure
M
MIT News - Artificial intelligence
博客园 - 司徒正美
H
Help Net Security

少数派

派早报:Google 发布 Fitbit Air 等 - 少数派 「新人报到」確認需求,再開始 - 少数派 从 SOLO 独立开发者社区,我看到了越来越多开发者开始做自己的产品 - 少数派 我怎么管理那些"不常做,但总会忘"的生活事项 - 少数派 人形机器人量产元年,数据才是具身智能的“生死线” - 少数派 BuhoLaunchpad 高度还原 Mac 启动台:开发历程与思考 - 少数派 五年陪伴依然不舍,DIY 换壳后让罗技 MX Master 3 继续服役 - 少数派 新玩意 240|少数派的编辑们最近买了啥? - 少数派 一日一技|为什么你应该关闭 iOS 的键盘声音 - 少数派 我做了个插件和 Skills,一键提取任何网站的设计规范 Design.md - 少数派 住在三四线城市的你,该开始录播客了 - 少数派 甘南秘境,大白高国 - 少数派 AI的审美:谁让把我变成川内倫子 - 少数派 返工怎能不烦恼,打工人片单总有一部是你的「嘴替」 - 少数派 为了让「上厕所」更健康,我做了一个小工具 - 少数派 AI + Skill,能够让生成的文章去除 AI 味吗? - 少数派 新玩意|韶音OpenDots ONE 耳夹式耳机 - 少数派 《美满》| 在每一个春天的晚上相爱(362) - 少数派 新玩意|优篮子 PS01 MagSnap 磁吸支架 - 少数派 自我整合手记 | 我开始早睡了:用稳定规则,为自由托底 - 少数派 用龙虾(OpenClaw)两个多月,我最深的12个体会 - 少数派 听歌时间到,12 张你可能错过的 2025 华语乐坛好专辑 - 少数派 承诺能追吗 - 少数派 macOS 26启动台没了? 我做了个不一样的App启动器 - Keboard - 少数派 《四海为家的人》| INTJ对话INTJ(361) - 少数派 你发过的那些黑历史,是时候一次清干净了 - 少数派 新玩意:安安静静玩,越玩越专注:计客密码机 - 少数派 iPad 用户首次体验 Android 平板:vivo Pad6 Pro - 少数派 数据逻辑强 - 少数派 极北行+ | 一路向北,探访日本至北之地 | 001 - 少数派 万字剖析:千问App深度体验报告(2026) - 少数派 在2026年,如何真正防止别人抄袭你的作品 - 少数派 怎么用 50 块搭个 AI 语音助手?我踩了 3 天坑 - 少数派 YeeroAI:让 AI 对话真正成为知识管理的一部分 - 少数派 爬泰山 - 少数派 「旅图显影」 App 更新:这次,我们补上了一点「手感」 - 少数派 假期出门太折磨?我的 23 条经验帮你规划惬意旅行 - 少数派 工作流会变吗 - 少数派 Claude Opus 4.6 怎么用最省钱?我测了 5 种方案 - 少数派 GPT Image 2 让图文并茂不再稀罕 - 少数派 用户侧出发——什么是AI,我要不要学习? - 少数派 找片、转存、整理、播放一条龙!让你的付费网盘值回票价 - 少数派 欢迎试用!日课一问2.0插件 - 少数派 自己做的MDeditor,原本想购买 Typora 试了两次支付不成功,干脆自己做一个 - 少数派 vibe coding了一个 3MB 的小工具,让 ~/Downloads 彻底告别混乱 - 少数派 因为受不了 Mac 的风扇策略,我做了一个风扇控制工具 - 少数派 别只怪模型 - 少数派 Warp 终端的 AI 功能怎么用?我测了一周的体验 - 少数派 AI 写代码老是出 bug?这 5 个配置我后悔没早知道 - 少数派 「新玩意」苹果出相机可能就这样:Sigma BF + 45mm F2.8 DG Contemporary - 少数派 一个面向2030年的AI操作系统是什么样子的:浅谈cola这款有灵魂的Agent - 少数派 别只看写代码 - 少数派 每天解决10个问题,还是一口气攻坚解决400个? - 少数派 AI 交易机器人怎么搭?我用 Claude 跑了一周实盘 - 少数派 Maptoposter Online:把你爱的城市画成艺术海报 - 少数派 Function Calling 怎么用?我测了 3 个模型发现差距真大 - 少数派 Legend Talk:我做了个 AI 圆桌,让 160 位思想家围着你的问题转 - 少数派 如何找到自己的蓝方?在小县城寻找压力测试 - 少数派 语音输入与软件接口|2026年聊AI时,我们都聊些什么(上) - 少数派 混动已经卖爆,纯电又来补刀——钛7闪充版简直“不讲武德” - 少数派 本月玩什么|朋友收藏、识质存在、沙罗周期 - 少数派 为什么要每天坚持输出? - 少数派 Claude API 挂了好几个小时,你的项目有备用方案吗? - 少数派 Function Calling 没你想的复杂——我用它做了个有点用的工具 - 少数派 登录系统立即播放视频或者图片音乐的软件 - 少数派 我为什么创建 FlipHTML5 下载工具 - 少数派 残局没电?多品牌外设电量统一管理软件EasyBluetooth已支持RTSS游戏内显示以及AIDA64 - 少数派 前往通义路的路 - 少数派 太好看了,媲美Sun的个人导航页,NAS部署星云门户 - 少数派 乌黑嘴唇“一键检测”上线了 - 少数派 派早报:Claude AI 接入多个创意软件生态、FILCO 生产方接手品牌等 - 少数派 【更新】BearCLI、Claude 连接器与 MCP 服务器 - 少数派 记了上千条流水,还是看不懂财务?我做了一个让 AI 读懂账本的工作台 - 少数派 MINI R56 升级原厂 Sport 模式 - 少数派 新玩意 | 一棵柠檬树(仿真版) - 少数派 Momenta的“物理AI”野望,需迈过“含摩量”这道关 - 少数派 网页直接投屏控制手机!NAS一键部署PandaScrcpy,流畅丝滑可远程。 - 少数派 众测|邀你一同探索随身 AI 硬件入口 YoooClaw C·ONE - 少数派 2050大会:分享时间是真诚 参会记 - 少数派 iPad 赋能电影创作:国内首部宣纸手绘长片《燃比娃》的幕后故事 - 少数派 AI的审美:我用 8 个大模型给 100 张旅行照片打分 - 少数派 普通人如何破圈?去参加一个本地协会 - 少数派 把极空间的图标全换了,主题DIY全攻略打造你的专属NAS桌面 - 少数派 电子便签墙,帮你实现便签自由 - 少数派 我如何用三个 CLI 工具取代文档创建需求 - 少数派 原来真的有人可以玩一辈子 - 少数派 社区速递 139 | 派友热议三月买了啥、复古单反尼康 Df 体验 - 少数派 06 作品的赏析与评价 - 少数派 TDS REVIEW|索尼 WF-1000XM6 降噪真无线耳机体验 - 少数派 35.98万起售的第二代腾势D9,我看重的不是堆料,而是不凑合 - 少数派 鼠须管 Squirrel 皮肤配置指北 - 少数派 从watch ultra2换到redmi watch6 - 少数派 派早报:阿里巴巴发布视频生成模型 HappyHorse 1.0 等 - 少数派 别迷信1M - 少数派 家人们天塌了!网盘“大封杀”,多个渠道多条路,NAS部署PanHub - 少数派 AI与人勾心斗角!NAS一键部署AI狼人杀,假日休闲必备。 - 少数派 电商必备!Comfyui工作流批量生图插件,一次生成12张!支持Nano banana pro模型 - 少数派 Comfyui工作流配置Gpt-image-2模型教程,0.03/张 - 少数派 OpenClaw第三方APi怎么配置?可使用Gpt-image-2模型 - 少数派 会员社区话题精选 Ep. 103 - 少数派
Sora大秀开启大模型新纪元,如何看待算力挑战? - 少数派
2024-02-24 · via 少数派

​作者|贾桂鹏

今年春节我们见证了Sora的惊艳表现。现在的大模型,已经进入了新的发展阶段。从技术,到具体的应用场景,生成式AI正在更多领域,发挥出惊人的潜力。

麦肯锡报告显示,生成式AI每年将为全球经济增加4.4万亿美元的价值。生成式AI可自动化节省 60%到70%的员工时间来提高生产力。在2030年至2060年间,有近一半的工作将实现智能化水平。

但是不可否认的是,随着AI不断发展,它对于算力的需求会持续增加,这也让整个行业都处在“焦虑”之中,如何破解AI时代的算力危机,也成为行业必须面对的问题。

生成式AI爆发,对企业价值体现

当下,大模型主导的生成式AI,尤其是GPT-4的发布,让人类社会看到了通用人工智能时代的曙光。这意味着,作为生产力工具甚至是数字时代的“新基建”的人工智能技术,不用再局限于单一或有限场景,而是能够在众多领域像人类一样进行思考、解决问题,并进行持续、快速的自我进化,因此,大模型主导的生成式AI,将拥有极为广阔的应用前景,有望赋能千行百业。 

随着生成式人工智能的爆发,对企业和个人的价值带来了许多新的机遇和优势:

创造性内容生成: 生成式 AI 可以帮助企业和个人快速生成创造性的内容,包括文字、图像、音频和视频等。这些内容可以用于广告营销、品牌宣传、内容创作等方面,为企业和个人节省时间和成本,提高创作效率和质量。

个性化服务和体验: 生成式 AI 可以根据用户的个性化需求和偏好生成定制化的服务和体验。企业可以利用生成式 AI 技术提供个性化的产品推荐、定制化的服务等,提高用户满意度和忠诚度。

创新和产品开发: 生成式 AI 可以帮助企业和个人快速生成新的创意和概念,促进产品和服务的创新和开发。通过生成式 AI 技术,可以快速验证和探索各种想法和可能性,为创新提供更多可能性。

数据增强和扩展:生成式 AI 可以帮助企业和个人生成大量的合成数据,用于数据增强和扩展。这些合成数据可以用于模型训练、数据标注、测试和验证等方面,提高模型的性能和泛化能力。

个人创作和娱乐:对于个人而言,生成式 AI 可以成为创作和娱乐的有力工具。通过生成式 AI 技术,个人可以快速生成各种艺术作品、创意内容和娱乐产品,拓展个人创作和娱乐的领域。

但是,值得注意的是,生成式 AI 对算力的需求通常较高,特别是在训练大型模型和处理大规模数据时。由于生成式 AI 模型通常具有复杂的结构和大量的参数,因此需要大量的计算资源来进行训练和推理。随着生成式 AI 技术的不断发展和应用,对算力的需求将会继续增加,需要更多的计算资源来支持。

AI狂奔,算力问题不可忽视

随着AI技术的迅速发展,越来越多的人开始关注AI算力问题。AI算力问题指的是,在处理复杂的AI模型和算法时需要大量的计算资源,而这种计算资源又需要消耗大量的时间和能源。

以下是生成式 AI 对算力需求的一些方面:

模型训练: 生成式 AI 模型的训练是一个非常计算密集的过程。这些模型通常由数百万甚至数十亿个参数组成,需要在大规模数据集上进行多轮迭代的训练。由于训练过程中需要进行大量的矩阵运算和梯度计算等计算密集型操作,因此需要强大的计算资源来加速训练过程。

例如,ChatGPT的训练参数达到了1750亿、训练数据45TB,每天生成45亿字的内容,支撑其算力至少需要上万颗英伟达的GPU A100,单次模型训练成本超过1200万美元。

推理和生成: 一旦生成式AI模型训练完成,推理和生成过程也需要大量的计算资源。在推理过程中,模型需要根据输入数据生成相应的输出,这涉及复杂的矩阵运算和神经网络计算,因此需要强大的计算能力来保证推理速度和生成质量。

制造冲突性单个Token的推理过程整体运算量为 2×大模型参数量,因此大模型推理侧每日算力需求=每日调用大模型次数×每人平均查询Token数量×2×大模型参数量,仅以Google搜索引擎为例,每年调用次数至少超过2万亿,一旦和大模型结合,其AI 算力需求将十分可观。

模型优化和调整: 生成式AI模型的优化和调整也需要大量的计算资源。在模型训练完成后,通常需要对模型进行调参、微调和优化,以进一步提高模型的性能和生成质量。这些过程也需要耗费大量的计算资源。

大规模数据处理:生成式AI模型通常需要在大规模数据集上进行训练和推理,因此需要强大的计算资源来处理和管理这些数据。这包括数据的存储、读取、预处理等过程,需要高效的计算资源来支持。

因此,我们看到,对于算力需求,随着AI技术的发展和应用场景的扩大,算力需求也在不断增加。AI模型的训练和推理都需要大量的计算资源支持,特别是深度学习模型等复杂模型需要更多的算力来训练和运行。

算力未来发展趋势

随着这个趋势的深入,半导体行业的收入叶城县指数级增长。Gartner预计,AI半导体收入将在预测期内继续保持两位数增长,2024年将增长25.6%,达到671亿美元(约4884.88亿元人民币),到2027年,AI芯片收入预计将比 2023 年的市场规模增长一倍以上,达到1194亿美元(当前约8692.32亿元人民币)。

因此,面对AI对于算力的需求以及算力市场的发展,算力行业也有一些措施来应对:

提高硬件性能和效率: 算力行业应该不断提升硬件设备的性能和效率,包括 CPU、GPU、TPU等,以满足 AI 技术对算力的不断增长需求。同时,还可以通过优化硬件设计和制造工艺,提高算力设备的能效比,降低能耗成本。

推动算力技术创新: 算力行业应该持续推动算力技术的创新,包括算法优化、并行计算、分布式计算等方面。通过不断创新和提升技术水平,提高算力设备的性能和效率,降低计算成本,满足 AI 技术的需求。

拓展云计算服务: 算力行业可以通过拓展云计算服务,为企业和个人提供弹性的计算资源,满足不同场景下的算力需求。通过提供云计算服务,可以实现资源的灵活调配和共享利用,提高算力资源的利用率和效率。

加强行业合作与共享: 算力行业可以加强与企业、研究机构等相关领域的合作与共享,共同推动算力技术的发展和应用。通过合作共享的方式,可以更好地利用各方资源,提高算力行业的整体竞争力和服务水平。

综上所述,随着 AI 技术的发展和应用,算力需求将会持续增加,算力行业应该通过提高硬件性能和效率、推动技术创新、拓展云计算服务、加强行业合作与共享等措施,应对这一趋势,实现行业的持续发展和进步。

我国算力领域发展如何?

我国算力产业规模快速增长,近5年平均增速超过30%,算力规模排名全球第二。各地根据自身资源禀赋特点和产业优势,纷纷制定规划,加快布局发展算力产业。

一方面,加快打通通道,推动数据快进快出,相继建成国家级互联网骨干直联点、国际互联网数据专用通道、根服务器镜像节点和国家顶级域名节点,加快建设全国“东数西算”南线主干道。另一方面,通过建设算力超市和算力调度平台,组织算力提供方、需求方和上下游企业进场对接。

相关数据显示,截至目前,全国在用数据中心机架总规模超过760万标准机架,算力总规模达到每秒1.97万亿亿次浮点运算(197EFLOPS),位居全球第二,服务器、计算机、智能手机等计算类产品产量全球第一,围绕算力枢纽节点建设130条干线光缆,算力应用广泛深入到政务、工业、交通、医疗等领域,不断催生新技术、新模式、新业态,算力赋能千行百业正向纵深推进,成为传统产业转型升级的重要支点,为经济高质量发展注入了强大动力。

写在最后

当前,数字经济作为新经济形态,正成为重组全球要素资源、重塑全球经济结构、重构全球竞争格局的关键力量。当前,我国算力产业已初具规模,正加速向政务、工业、交通、医疗等领域拓展深化,推动互联网、大数据、人工智能与实体经济深度融合,持续赋能千行百业。