惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

量子位
L
LINUX DO - 最新话题
TaoSecurity Blog
TaoSecurity Blog
S
Security Affairs
H
Hacker News: Front Page
Recent Commits to openclaw:main
Recent Commits to openclaw:main
Hacker News: Ask HN
Hacker News: Ask HN
T
The Exploit Database - CXSecurity.com
P
Proofpoint News Feed
Google DeepMind News
Google DeepMind News
Schneier on Security
Schneier on Security
云风的 BLOG
云风的 BLOG
I
InfoQ
The Register - Security
The Register - Security
T
Tor Project blog
T
Threat Research - Cisco Blogs
Spread Privacy
Spread Privacy
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
The GitHub Blog
The GitHub Blog
MongoDB | Blog
MongoDB | Blog
Webroot Blog
Webroot Blog
Recent Announcements
Recent Announcements
Vercel News
Vercel News
F
Fortinet All Blogs
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
SecWiki News
SecWiki News
G
Google Developers Blog
N
Netflix TechBlog - Medium
U
Unit 42
Martin Fowler
Martin Fowler
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
O
OpenAI News
博客园 - 叶小钗
T
Tailwind CSS Blog
爱范儿
爱范儿
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
Help Net Security
Help Net Security
A
About on SuperTechFans
Recorded Future
Recorded Future
Last Week in AI
Last Week in AI
Hugging Face - Blog
Hugging Face - Blog
K
KPMG report finds enterprise disconnect between AI and its ROI | CIO
D
DataBreaches.Net
D
Darknet – Hacking Tools, Hacker News & Cyber Security
T
The Blog of Author Tim Ferriss
PCI Perspectives
PCI Perspectives
F
Full Disclosure
美团技术团队
L
Lohrmann on Cybersecurity
H
Hackread – Cybersecurity News, Data Breaches, AI and More

博客园 - iTech

AI Agent 写完代码谁来测?这个开源沙箱把 CI/CD 和多 Agent 协作全包了 7万星的AI交易框架:让大模型模拟投行多空辩论,自动做交易决策 71000颗星的AI交易团队:让大模型模拟投行分工,自动做交易决策 13400颗星的开源项目:输入一句话,AI全自动帮你做短视频 102颗星的沙盒:当AI学会自己写代码、跑测试、做部署 AI 技术日报 - 2026-05-08 29k 星的 PageIndex:不用向量数据库,靠推理就能做 RAG 每天花两小时刷信息?这个开源项目帮你全自动搞定 读源码像读小说?试了 DeepWiki 和 Zread,我再也不想裸读 GitHub 了 Matt Pocock 开源的这套 .claude 技能,为什么让工程师集体上头? Cursor Team Kit:Cursor 官方团队在用的 17 个 AI 工作流 AI 技术日报 - 2026-05-07 AI 技术日报 - 2026-05-06 AI 技术日报 - 2026-05-05 Anthropic CEO 说 12 个月内程序员要失业,我扒完他的底牌,发现事情没那么简单 把工程师的肌肉记忆装进 Claude Code,这个 4300 Star 的项目我后悔没早用 AI 技术日报 - 2026-05-04 AI 技术日报 - 2026-05-03 AI 技术日报 - 2026-05-02 六大 Agent 框架横评:谁支持 Skills?谁能自动创建 Agent?MCP 呢? Wechatsync:一个 Chrome 插件,一键把文章同步到 31 个平台 LangChain 开源了 Open SWE:Stripe、Ramp、Coinbase 内部都在造的编程 Agent Cockpit:把 Claude Code 从终端里搬出来,装进浏览器 Cursor 把自家的 AI Agent 开放了:写几行 TypeScript 就能调 Cursor 干活 AI 技术日报 - 2026-05-01 AI 写代码每次结果都不一样?Archon 用 YAML 工作流把 AI 编程变成流水线 AI 写代码比你快了,但你还是得学编程——只不过学法得换 腾讯的龙虾特工队:4 个 AI Agent 同日更新,全家桶正式成型 Agno 不做更聪明的 Agent,它要把所有 Agent 框架包进同一个操作系统 Hermes Agent 终于有了像样的 Web 界面,而且还支持远程访问 Datawhale 出了一套 29 学科知识地图,把 AI 的底牌全掀了 Hermes Agent 在聊天框里就能用的 20 种高级功能 一份 AGENTS.md 能顶一次模型升级?Augment Code 用数据说了算 NVIDIA 开源了一个「AI 沙箱」,20K Star,让 Agent 跑代码不再裸奔 60ms 冷启动、5MB 内存:腾讯开源的这个沙箱让 Docker 安全隔离像笑话 AI 技术日报 - 2026-04-30 AI 技术日报 - 2026-04-29 AI 技术日报 - 2026-04-28 Goose:Linux 基金会亲儿子,能撼动 Claude Code 和 OpenCode 吗? AI 技术日报 - 2026-04-27 AI 技术日报 - 2026-04-26 Google 把价值20美元/月的东西免费了,102K人已经抢到了 OpenClaw 和 Claude Code 网络搜索配置指南 AI 技术日报 - 2026-04-25 Anthropic 为什么遥遥领先:从 Cat Wu 专访看AI霸主的底层逻辑 Mac 本地跑大模型完全指南:你的苹果电脑就是 AI 工作站 同样 70B 参数,为什么 MoE 只激活 13B 就能打平 Dense? DeepSeek-V4 深夜炸场:1M 上下文、384K 输出、双模型,API 定价直接卷到底 MacBook Air 跑大模型实测:Ollama、llama.cpp、LM Studio 谁才是本地推理之王? AI 技术日报 - 2026-04-24 OpenCode:Claude Code 的最佳平替 2026 开源大模型五国杀:Qwen 3.6 vs Gemma 4 vs Llama 4 vs GLM-5.1 vs DeepSeek V4 MCP 与 Skills 的你死我活:Anthropic 的 Agent 生态野心与开发者的站队困境 给 AI Agent 配搜索,国内能用的搜索 API 实测对比 AI 技术日报 - 2026-04-23 CC Switch:49K Star 的 Claude Code 登录绕过神器,还能管 Codex 和 Gemini CLI NVIDIA 开出 32 万美元年薪招 AI Agent 工程师,JD 里藏着这些信号 fast-mirror-skill 技术拆解:一个小而完整的 Claude Skill 是怎么设计的 Cursor 值 600 亿美元?马斯克这次赌的不是技术,是入口 AI 技术日报 - 2026-04-22 别再问 AI 能不能赚钱了:3 个上班族亲测有效的副业方法(2026 最新版) 10 分钟从零搞定 Hermes Agent:飞书微信双通道丝滑上线 AI 技术日报 - 2026-04-21 Anthropic 实战总结:AI Agent 的 3 种工作流模式,选错代价很大 安装 openclaw,hermes 慢的想发疯,fast-mirror-skill 来救了 Claude Routines:你下班睡觉了,Agent 还在为你干活 微信飞书里敲一个斜杠就能干活:Hermes Quick Command 到底多省事 AI 正在疯狂吃电:算力尽头是电力,谁能解这道题? AI 技术日报 - 2026-04-20 3K 行代码造一个越用越聪明的 AI Agent:GenericAgent 登顶 GitHub Trending 高德途途封神机器人半马,背后的 ABot-Claw 到底是什么 人们希望 AI 能干啥?Anthropic 调查:第一名不是赚钱,是变强 AI 时代人们在担心什么?Anthropic 的 13 条焦虑排行榜 OpenAI 官方 Agent SDK 来了:22k Star,支持 100+ 模型,Python 10 行代码上手 AI 技术日报 - 2026-04-19 OpenAgents Workspace:让 Claude Code 和 Codex 在同一个群里干活 Claude 是要干掉整个软件行业吗? Claude 官方推荐多 Agents 设计模式 多 Agent 系统的 5 种协调模式:选错了模式,再强的 Agent 也白搭 AI 技术日报 - 2026-04-18 AI 技术日报 - 2026-04-17 Better-Harness:让AI Agent自己优化自己的革命性框架 OpenClaw Workspace 完全指南:我的AI编程工作流 DeepSeek内蒙草原高薪招聘:AI时代的数字牧民梦,还是营销噱头? 2 核 2G 的阿里云 ECS 能跑 OpenClaw 吗?能,但有点折腾 AI 技术日报 - 2026-04-16 OpenCLI:一个命令行搞定 16+ 内容平台的神器 从零到精通:OpenClaw CLI 命令完全指南 AI 技术日报 - 2026-04-15 AI Agent 如何自我进化?Hermes Agent Self-Evolution 深度解析 AI 技术日报 - 2026-04-14 为什么你的飞书 Bot 总是连不上?OpenClaw Gateway 架构深度解析 OpenClaw 连接飞书的原理:Gateway、Channel 与消息流转 国内安装 Hermes Agent 踩坑全记录:从 GitHub 超时到正常跑起来的每一步 35 万 Star 的 OpenClaw:5 分钟部署你的私人 AI 助手,直连飞书 AI 技术日报 - 2026-04-13 公司用 AI 筛简历,这个开源项目让候选人用 AI 反选公司 为什么 Google ADK 可能是你下一个 Agent 框架——7 个改变游戏规则的特性 Microsoft Agent Framework 深度解析:架构设计与实战落地 AI 技术日报 - 2026-04-11
DeepSeek-V4 技术报告里藏着一条线:华为昇腾 NPU 已完成推理验证
iTech · 2026-04-24 · via 博客园 - iTech

今天 DeepSeek 发布了 V4 预览版,朋友圈和 Twitter 一下子炸了。百万 token 上下文、双模型架构、推理性能比肩顶级闭源模型——这些确实够劲爆。

但我翻完 4927 行的技术报告后,发现了一个很多人可能忽略的细节。

本文提纲

  1. 先说重点:华为昇腾 NPU 出现在技术报告里
  2. DeepSeek-V4 到底有多强
  3. 1M 上下文是怎么做到的
  4. V4-Pro vs V4-Flash:两个模型的定位
  5. 推理基础设施:国产芯片走到了哪一步
  6. 开发者最关心的:API 怎么用
  7. 我的判断

先说重点:华为昇腾 NPU 出现在技术报告里

翻到技术报告第 3.1 节"Fine-Grained Communication-Computation Overlap in Expert Parallelism",有这么一段话:

We validated the fine-grained EP scheme on both NVIDIA GPUs and HUAWEI Ascend NPUs platforms. Compared against strong non-fused baselines, it achieves 1.50 ~ 1.73× speedup for general inference workloads, and up to 1.96× for latency-sensitive scenarios such as RL rollouts and high-speed agent serving.

翻译一下:DeepSeek 的核心推理优化——MegaMoE 融合内核,已经在华为昇腾 NPU 上跑通了,而且性能提升幅度和 NVIDIA GPU 上一致:通用推理场景 1.5~1.73 倍加速,RL rollout 等延迟敏感场景最高 1.96 倍加速。

这不是象征性的兼容性测试,而是生产级推理内核的双平台验证

为什么这件事值得单独拿出来说?因为在当前美国的芯片出口管制下,NVIDIA H100/H800 对中国市场的供应受到了严格限制。如果大规模 MoE 模型的推理能在国产 NPU 上跑起来,而且是 DeepSeek 这种 1.6T 参数的顶级开源模型主动去做适配,这件事的意义远超一个 benchmark 数字。

当然,实事求是地说:技术报告里只提到了推理侧(inference)的 NPU 验证,预训练阶段用的仍然是 NVIDIA GPU 集群。但这已经是国产 AI 芯片在大模型推理场景下,最权威的一次实战验证了。

DeepSeek-V4 到底有多强

先看硬数据:

指标 DeepSeek-V4-Pro DeepSeek-V4-Flash
总参数 1.6T 284B
激活参数 49B 13B
最大上下文 1M (100万 tokens) 1M (100万 tokens)
最大输出 384K tokens 384K tokens
训练数据 33T tokens 32T tokens

V4-Pro 的对位选手是 Claude Opus 4.6 和 GPT-5.4。根据技术报告的 benchmark:

  • Agent Coding:内部评测中,85 名开发者的投票显示 52% 的人认为 V4-Pro 可以作为主力编码模型,体验优于 Sonnet 4.5,交付质量接近 Opus 4.6 非思考模式
  • 世界知识:大幅领先其他开源模型,仅稍逊于 Gemini-Pro-3.1
  • 推理:超越所有已公开评测的开源模型,接近顶级闭源模型水平

而 V4-Flash 呢?激活参数只有 13B,但推理能力和 V4-Pro 接近——简单任务上基本持平,只是高难度任务有差距。

价格更是杀手级:

模型 输入价格 输出价格
V4-Flash $0.14/M tokens $0.28/M tokens
V4-Pro $1.74/M tokens $3.48/M tokens

V4-Flash 的价格大概是 Claude Sonnet 的十分之一。这个定价摆明了是要把百万上下文变成普惠能力。

1M 上下文是怎么做到的

DeepSeek-V4 没有用传统的全注意力机制硬扛百万上下文,而是设计了一套混合注意力架构:

CSA(Compressed Sparse Attention)+ HCA(Heavily Compressed Attention)

核心思路是在 token 维度做压缩。传统的注意力机制每增加一倍上下文,计算量和显存就平方级增长。DeepSeek 的做法是:

  1. 先用 CSA 在 token 维度压缩——把连续的 KV 条目压缩成更紧凑的表示
  2. 对于需要更远距离依赖的场景,用 HCA 做更激进的压缩
  3. 配合 DSA(DeepSeek Sparse Attention)实现稀疏化

效果如何?在 1M 上下文场景下:
- V4-Pro 只需要 V3.2 的 27% 的推理 FLOPs
- KV Cache 大小只有 V3.2 的 10%
- V4-Flash 更狠:推理 FLOPs 只有 V3.2 的 10%,KV Cache 只有 7%

这意味着百万上下文不再是实验室里的炫技,而是真正可以在生产环境里跑起来的能力。

还有一个容易被忽略的架构创新:Manifold-Constrained Hyper-Connections(mHC)。它改进了传统的残差连接,让深层网络的信息流动更稳定。配合 Muon 优化器使用,训练收敛更快更稳。这部分开销被控制在 pipeline stage 的 6.7%,算是非常克制了。

V4-Pro vs V4-Flash:两个模型的定位

很多人会问:到底该用哪个?

简单粗暴地分:

选 V4-Flash 的场景
- 日常对话、文本生成、简单代码补全
- 需要低延迟、低成本的 API 调用
- 批量处理、分类、提取等非推理密集任务
- 预算敏感的项目

选 V4-Pro 的场景
- 复杂代码生成、Agent 编码
- 长文档理解和分析(百万级上下文)
- 数学推理、STEM 问题
- 需要 thinking mode 的复杂推理任务

V4-Flash 的思考模式(thinking mode)在推理任务上其实不弱,调大 thinking budget 后和 V4-Pro 的差距会缩小。但世界知识方面因为参数量差距,确实有明显差距。

推理基础设施:国产芯片走到了哪一步

回到华为昇腾这条线。DeepSeek 在技术报告里给出了几点对硬件厂商的建议,这些建议本身就是对 NPU 适配过程的总结:

  1. 计算-通信比比单纯的带宽更重要。每 GBps 的互联带宽可以隐藏 6.1 TFLOP/s 的计算量,超过这个阈值后继续堆带宽收益递减。这对国产芯片的设计方向很有指导意义——别盲目追带宽,找平衡点。

  2. 功耗预算。极限内核融合会让计算、显存、网络同时高负载运行,功耗墙成了关键性能瓶颈。国产芯片在高负载场景下的功耗管理还有优化空间。

  3. 通信原语。DeepSeek 采用了拉取式(pull-based)通信,因为细粒度推送的延迟太高。更低延迟的跨设备信号机制会让推送模式变得可行。

  4. 激活函数。建议用低成本逐元素激活函数替代 SwiGLU,减少指数运算和除法。

这些建议不是空谈——它们来自一个在 NVIDIA GPU 和华为 NPU 上都跑了大量实验的团队。这种双平台的实战经验,对国产芯片生态的建设价值巨大。

开发者最关心的:API 怎么用

API 兼容 OpenAI 和 Anthropic 接口,切换成本几乎为零:

# V4-Pro(思考模式)
client.chat.completions.create(
    model="deepseek-v4-pro",
    messages=[{"role": "user", "content": "你的问题"}],
    # 开启思考模式
    extra_body={"thinking": {"type": "enabled", "budget_tokens": 10000}}
)
# V4-Flash(经济模式)
client.chat.completions.create(
    model="deepseek-v4-flash",
    messages=[{"role": "user", "content": "你的问题"}]
)

几个注意点:
- deepseek-chatdeepseek-reasoner 将在 3 个月后(2026-07-24)停用,现在分别对应 V4-Flash 的非思考和思考模式
- V4-Pro 的思考模式支持 reasoning_effort 参数(high/max),复杂 Agent 场景建议用 max
- 最大上下文 1M,最大输出 384K
- 缓存输入有额外折扣:V4-Pro 缓存输入只要 $0.145/M,V4-Flash 只要 $0.028/M

模型权重已开源:HuggingFace 和 ModelScope 都能下载。技术报告也在 HuggingFace 上。

我的判断

DeepSeek-V4 的技术实力没什么好质疑的——开源模型做到这个水平,本身就是一件了不起的事。百万上下文的效率提升不是渐进式改进,是数量级的跨越。

但让我更兴奋的是华为昇腾 NPU 的出现。这不仅仅是一个兼容性声明,而是顶级大模型团队对国产 AI 芯片的正式认可。推理侧跑通了,训练侧还会远吗?

在芯片出口管制持续收紧的背景下,这件事的象征意义大于任何 benchmark 数字。DeepSeek 用行动证明了一件事:国产 NPU 适配大模型推理,不是"能不能"的问题,而是"已经做到了"。


作者: itech001
来源: 公众号:AI人工智能时代
主页: https://www.theaiera.cn,每日分享最前沿的AI新闻和技术。

本文首发于 AI人工智能时代,转载请注明出处。