惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

B
Blog RSS Feed
Martin Fowler
Martin Fowler
爱范儿
爱范儿
IT之家
IT之家
Last Week in AI
Last Week in AI
A
About on SuperTechFans
Google DeepMind News
Google DeepMind News
阮一峰的网络日志
阮一峰的网络日志
V
V2EX
aimingoo的专栏
aimingoo的专栏
G
Google Developers Blog
J
Java Code Geeks
Microsoft Azure Blog
Microsoft Azure Blog
美团技术团队
The Cloudflare Blog
MyScale Blog
MyScale Blog
T
The Blog of Author Tim Ferriss
Hugging Face - Blog
Hugging Face - Blog
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
云风的 BLOG
云风的 BLOG
Y
Y Combinator Blog
The GitHub Blog
The GitHub Blog
腾讯CDC
Microsoft Security Blog
Microsoft Security Blog

InfoQ - 促进软件开发领域知识与创新的传播

Meta 收购 Manus 这事儿泡汤了 5.5万 Star 开源项目 Ghostty 被迫出走,GitHub 正在终结一代技术人的乌托邦 谷歌开源“Agent Skill 超级工具箱”,云、库、引擎、AI全线打通,开发者狂喜 Slack 长时运行多智能体系统的上下文管理方案 从 T+1 到分钟级:金城银行基于 Apache Doris 构建高可靠、强一致的实时数据平台 谷歌云推出 Agents CLI,简化 AI 智能体开发全流程 Claude官方击穿高薪、高学历的安全防线!Anthropic点名10大高危职业,但有群人暂时稳了 亚马逊云科技终止 WorkMail 服务,并将 App Runner 转入维护模式 OPPO小布记忆:全模态碎片化内容的理解与智能整理实践|AICon上海 模力工场038周AI应用周榜:工具在消失,工作流在出现 Akamai CEO Tom Leighton:Agent 时代来临,云基础设施正从“中心化”转向“分布式边缘” 日均数百亿入库背后:从“人肉调度”到K8s弹性架构,度小满金融基于OceanBase重构入库架构实践 百度文库网盘发布GenFlow 4.0:月活用户超1亿,要把网盘变成全端AI工作台 Altman 投的 Agent 终端 Warp 开源了!斩获3.5万star 哪些客户需要拒, 敢让龙虾决定吗?_AI&大模型_InfoQ 中文站_InfoQ精选视频 从开发到生产:为什么越来越多的机器学习团队纷纷迁移到 Snowflake | BUILD 2025_AI&大模型_王玮_InfoQ精选视频 探索多智能体工作流:LangGraph Snowflake Cortex AI | BUILD 2025_AI&大模型_王玮_InfoQ精选视频 腾讯云分布式缓存数据库:AI Agent - 从提示词工程到 Harness 工程 | 腾讯云数据库 DBTalk_腾讯_凌敏_InfoQ精选视频 基于 Streamlit 为 CSV 数据构建分析智能体 | BUILD 2025_AI&大模型_王玮_InfoQ精选视频 AI 智能体:告别文档缺漏 | BUILD 2025_AI&大模型_王玮_InfoQ精选视频 构建 AI 驱动的数据管道:深度探讨 Snowflake Openflow 与非结构化数据 | BUILD 2025_AI&大模型_王玮_InfoQ精选视频 云端太贵、本地不够聪明,英特尔押注“端云混合AI”:智能体PC会替人完成工作 不到10%的存储投入,可能拖垮90%的GPU投资!IBM把AI Agent塞进存储系统,算清企业最容易忽略的一笔账 Snowpark 上手实战 | BUILD 2025_大数据_王玮_InfoQ精选视频 ClickHouse + Langfuse,构建 Agent 可观测基石 腾讯云分布式缓存数据库:Cluster Proxy 共享连接架构深度解析 | 腾讯云数据库 DBTalk_腾讯_凌敏_InfoQ精选视频 AI 写代码太烧钱了:Copilot、Claude 一起涨价,不如把程序员请回来? 英特尔发布至强600系列工作站处理器与锐炫Pro B70 GPU,全新AI工作站来了 腾讯云分布式缓存数据库:从 Redis 到 Valkey - 开源社区如何快速创新 | 腾讯云数据库 DBTalk_腾讯_凌敏_InfoQ精选视频 印奇这次要“从0重做”智驾模型!首谈阶跃和千里双公司布局:中国AI商业闭环要靠车跑出来
全链路支撑大模型国产化“Day 0适配”,商汤大装置构建全栈能力...
李忠良 · 2026-04-29 · via InfoQ - 促进软件开发领域知识与创新的传播

近期,DeepSeek 正式官宣并开源其新一代旗舰模型 V4,全面适配华为昇腾国产芯片。从底层算子到通信协议,从显存调度到框架适配,持续推进大模型与国产算力的原生协同,逐步摆脱对 NVIDIA 依赖,这也标志着国产大模型与国产算力进入了“Day 0 适配”的新阶段。

这不仅是技术路径的调整,更是 AI 基础设施范式的深层跃迁。过去,大模型开发往往基于英伟达 GPU 完成训练,再向国产芯片做“后补式”迁移——成本高、周期长、性能损耗显著。而“Day 0 适配”的核心在于:模型从预训练阶段起便与底层算力深度绑定,通过“算力-模型协同优化”,实现开箱即用的高性能。

这要求国产算力集群具备从 0 到 1 支撑大模型训练、推理与持续演进的完整能力——而商汤大装置,已在基础设施层面完成了这一技术路径的全链条验证,为国产算力规模化落地提供可复制经验。

全链路支撑世界模型与多模态模型的“Day 0 适配” 

商汤大装置为多模态、世界模型与国产算力的“Day 0 适配”提供全栈技术支撑:

在世界模型方向,开悟世界模型 3.0 已具备在国产算力集群上完成蒸馏、训练与推理的全流程能力,并完成与沐曦 C 系列 GPU 的“Day 0 适配”。在这个过程中,开悟 3.0 采用芯片与模型协同编译方案,结合算子级耗时针对性优化,使模型运行性能直接提升 300%,复杂任务处理效率实现大幅跃升。

在多模态模型方向,Seko 系列模型已完成与寒武纪芯片的深度适配,实现从语言到多模态的全面支持;同时依托 LightX2V 框架的插件化适配能力,可快速对接多种国产硬件,具备良好的生态延展性。

 商汤大装置为其提供了底层算力管理、任务调度和性能优化的完整技术支撑,使“Day 0 适配”从概念走向可落地的实践方案,实现模型训练、推理与迭代的全流程高效协同。

全栈技术优化:从异构协同到推理性能倍增 

 国产模型与国产算力的深度绑定,核心不在单点突破,而在体系化能力的构建。针对国产化芯片兼容难、异构芯片协同效率低、推理侧性能挑战大等现实痛点,商汤大装置通过全链路协同优化,形成了覆盖训练到推理的完整能力栈。

兼容层,插件化适配多款国产芯片。针对国产化兼容难题,商汤 LightX2V 框架设计了强兼容的国产化适配插件模式,可快速完成各类国产硬件的适配接入,目前已支持寒武纪、沐曦、海光 DCU、昇腾 910B 等多款主流芯片。实践层面,为了更好释放国产算力优势,Seko 系列模型与 LightX2V 框架在设计之初即引入了低比特量化、压缩通信、稀疏注意力等硬件友好创新机制,将国产芯片的推理性能提升 3 倍以上。

训练侧,异构芯片高效协同。针对异构芯片难以协同、大规模训练效率低的难题,商汤大装置构建了基于 XCCL 与 DeepLink 的统一异构适配体系。通过分层通信、自动并行调度与动态负载均衡策略等,实现万卡规模集群高效协同,训练效率达到同构集群的 95%以上,算力利用率提升至 80%,让国产算力真正具备大规模训练能力。

在推理侧,通过 Ignite 实现一键部署与自适配优化。商汤大装置通过 Ignite 推理引擎启动器,兼容多模型与多引擎体系,通过提供统一 API,并在 KV Cache 管理、多 Token 预测、算子优化、通信调优上形成全链路能力,实现“一键部署+自适配优化”,显著降低推理门槛。

进一步,在性能深挖层面,通过多维并行策略、算子融合优化、FP8/INT8 等低精度量化等技术突破,单实例平均吞吐可提升约 2 倍,峰值提升可达 4 倍;同时采用 PD 分离推理优化,将 Prefill 与 Decode 解耦部署并配以动态调度,大幅降低首 Token 时延与输出时延,有力保障大规模在线推理服务的 SLA 达成。

赋能未来,国产算力新拐点到来

从当前产业进展来看,两个趋势已经愈发清晰:一是,国产算力生态正从“可用”走向“可规模商用”。随着大模型训练与推理全流程跑通,产业拐点正在加速到来。二是,多芯片并存将成为长期常态。在这一背景下,决定竞争力的,不再是单一芯片性能,而是跨芯片适配、异构协同与全栈调度能力等,能够高效管理、调度和优化异构芯片运行环境的基础设施,将成为大模型产业落地的核心支撑。

商汤大装置将持续推进“算力-模型协同进化”,以更高性能、更低成本、更快迭代和更强的生态整合能力,让国产算力高效运行中国模型,在性能、效果与成本之间实现最佳平衡——打造最具竞争力的国产 AI 基础设施解决方案。