惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

V
Visual Studio Blog
T
Tailwind CSS Blog
Google DeepMind News
Google DeepMind News
D
DataBreaches.Net
P
Proofpoint News Feed
Simon Willison's Weblog
Simon Willison's Weblog
Microsoft Azure Blog
Microsoft Azure Blog
MongoDB | Blog
MongoDB | Blog
腾讯CDC
月光博客
月光博客
A
Arctic Wolf
T
Threatpost
Jina AI
Jina AI
博客园 - 聂微东
美团技术团队
V
V2EX
云风的 BLOG
云风的 BLOG
宝玉的分享
宝玉的分享
Recent Commits to openclaw:main
Recent Commits to openclaw:main
M
MIT News - Artificial intelligence
S
Secure Thoughts
Martin Fowler
Martin Fowler
Webroot Blog
Webroot Blog
V
Vulnerabilities – Threatpost
爱范儿
爱范儿
人人都是产品经理
人人都是产品经理
Help Net Security
Help Net Security
Google Online Security Blog
Google Online Security Blog
博客园 - Franky
The Last Watchdog
The Last Watchdog
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
阮一峰的网络日志
阮一峰的网络日志
博客园 - 【当耐特】
S
Schneier on Security
Application and Cybersecurity Blog
Application and Cybersecurity Blog
Know Your Adversary
Know Your Adversary
Latest news
Latest news
有赞技术团队
有赞技术团队
AWS News Blog
AWS News Blog
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
Y
Y Combinator Blog
G
Google Developers Blog
NISL@THU
NISL@THU
H
Heimdal Security Blog
L
LangChain Blog
T
Troy Hunt's Blog
I
InfoQ
U
Unit 42
C
Check Point Blog
Engineering at Meta
Engineering at Meta

PYM博客

Python 部署 Lexfence:基于 AI 大模型的内容审核系统 Docker 部署 Lexfence:一款开源易用的AI审核服务 2026年了,电脑病毒真是防不胜防,3个好用的杀毒软件推荐(亲身经历) 本站已更换 Cloudflare 至 EdgeOne Claude Opus 4.8来了!不再是比聪明,而是更能干活,敢于认错,变得诚实了! Note.ms在线简洁匿名记事本,如何修改/0页面 解禁了?RTX 5090 PRO6000上架京东自营店 用工具轻松的给Frpc配置SSL证书,穿透Http与Https流量,开启强制Https跳转 「POJ1740」A New Stone Game SG函数与博弈论题解 国内就可以使用的免费SuperGrok,无需登录无需排队,完全公益免费! 保姆级干货:在AI时代薅羊毛,如何获得大量免费的AI API?学完这个你的小龙虾就不缺粮食了! Deepseek-V4要来了的预兆?Deepseek专家模式低调上新!Deepseek首次引入模式分层! 游玩本站必读公告 Claude Code源代码惨遭泄露,几句话告诉你泄露的原因,附下载链接 Docker快速部署Astrbot,开源的一站式 Agentic 个人和群聊助手 今天是愚人节,请将这篇文章转发给你的亲朋好友 P4171 [JSOI2010] 满汉全席 2-SAT详细题解 P1993 小 K 的农场 差分约束SPFA判断负环 详细题解 P6145 [USACO20FEB] Timeline G SPFA差分约束最长路题解 Luogu P2850 [USACO06DEC] Wormholes G SPFA算法思路与C++代码详解 Luogu P2136 拉近距离 SPFA判断负环题解 与 思路 开源 UI 元素社区库,让你的网站更加美观! 免费的AI和付费的API区别到底在哪里?付费的AI真的更聪明吗?
Deepseek V4发布了!综合能力比肩顶级闭源模型!
PYM · 2026-04-24 · via PYM博客

就在今天,DeepSeek 全新一代模型 V4 系列正式开源,并迅速冲上 Hugging Face 模型榜单首位。伴随模型开放,一份详尽的技术报告也同步公开,完整披露了该系列在硬件适配、架构改造、训练策略等环节的核心要点。无论从能力指标还是工程效率上看,这都是一次相当激进的迭代。

image-pVDx.png

与以往不同的是,V4 的跃升并不只是“更强了”。它首次把百万 token 上下文作为默认能力交付给社区,同时把单 token 推理的计算量降到 V3.2 版本的 27%,KV 缓存仅为原来的十分之一。这意味着,超长文本处理不再只是实验室里的演示,而是开始走向实用、低成本。

image-fEzM.png

硬件层面,DeepSeek 这次做了一个“跨生态”的全面适配——从训练到推理,整套流程已完整运行在华为昇腾 NPU 之上。同时,自研的细粒度专家并行方案 MegaMoE,把通信和计算交织成一条流水线,在英伟达 GPU 和昇腾 NPU 上分别实现了 1.50 到 1.73 倍的加速,延迟敏感场景下甚至可接近翻倍。其 CUDA 实现 MegaMoE2 也已开源,成为 DeepGEMM 工具包的一部分。

为了让碎片化的计算变得紧凑,团队用 TileLang 把大量零散的小算子融合成大型内核,调用开销从百微秒级骤降到 1 微秒以内,并借助 Z3 形式化验证器确保每次计算在任意批次位置下都给出完全一致的结果。这种“比特级可复现”的设计,对大型模型调试来说几乎是一种保命机制。此外,FP4 量化被部署在 MoE 专家权重和压缩稀疏注意力的 QK 路径上,让长上下文下的注意力分数计算进一步提速。

架构改动是这次长文本效率突破的关键。V4 仍然沿用 MoE 结构和多 token 预测,但注意力部分彻底重构,将压缩稀疏注意力与另一种高压缩稠密注意力组合成“混合注意力”,在保证信息利用的同时大幅缩减计算和存储开销。同时,残差连接被替换为“流形约束超连接”,以增强表达力,训练端则引入 Muon 优化器,收敛更快且更稳定。推理时,KV 缓存可部分下沉至磁盘,使得极长上下文的部署不会直接撑爆内存。

预训练数据的总量超过 32 万亿 token,并首度引入了“样本级注意力掩码”机制。网页数据经过严格过滤,剔除批量生成和模板化的低质内容;数学、编程仍是核心,中期还加入智能体数据;多语言语料扩充了各个文化中的长尾知识,而长文档部分则优先收录论文和技术报告。在这些基础上,V4-Flash 基础模型虽参数更少,却在世界知识和长上下文等任务中超越了 V3.2 基础模型;V4-Pro 基础版则几乎在所有基准上刷新了 DeepSeek 的记录。

后训练阶段的路线也出现了重要转变。先前的混合强化学习阶段被完全移除,取而代之的是“基于策略的蒸馏”。具体做法是,先为每个目标领域分别训练一个专家模型,经过监督微调和 GRPO 强化学习后,得到一群各有所长的“专才”。接下来,统一的学生模型开始自己采样并答题,过程中十多位专家老师在完整词表维度上通过逆向 KL 损失进行 logit 级对齐,以此实现专长的融合。这种全词表蒸馏让梯度更稳定,训练曲线也更容易控制。

与蒸馏策略相配套的,还有对长窗口场景下推理记录的精细管理。当模型处于工具调用环境中时,所有思考轨迹会跨轮次完整保留,让智能体在长时间任务中能够保持连贯的推理链;而在普通对话下,则仍会清除上一轮的推理内容,维持上下文的简洁。

同时Deepseek V4模型也针对 Claude Code 、OpenClaw、OpenCode、CodeBuddy 等主流的 Agent 产品进行了适配和优化,在代码任务、文档生成任务等方面表现均有提升。

评测数据上,DeepSeek V4-Pro-Max 在知识、推理和代码能力上全线提升,综合表现已可对标 GPT-5.4、Claude Opus 4.6 等顶级闭源模型。其推理得分超过 GPT-5.2 和 Gemini 3.0 Pro,知识项略低于 Gemini 3.1 Pro。智能体能力与 Kimi K2.6、GLM-5.1 等领先开源模型持平,长上下文测试在学术基准上甚至超过了 Gemini 3.1 Pro。V4-Flash-Max 则在更低成本下提供了不俗的推理表现,展现出极高的性价比,在部分任务上接近 Pro 版本的水平。

同时值得注意的是,这次Deepseek V4更新后仍然保持与ChatGPT、Claude等模型相对比非常便宜的定价。

其快速版本输入仅每百万Tokens 1元,输出仅每百万Tokens 2元,相较于ChatGPT,Claude等顶尖版本的模型,定价便宜了几十至数百元人民币。

image-XJfL.png

但是也有技术报告坦诚指出,目前的架构仍偏复杂,Anticipatory Routing 和 SwiGLU Clamping 等稳定性机制的内在机理还有待进一步厘清。后续工作方向包括简化结构、提升训练稳定性、向更多稀疏化方向探索、缩短长上下文推理延迟,以及增强多轮智能体和多模态能力等。

image-DTsS.png

整体来讲,开源的DeepSeek V4 把超长上下文的效率推到新高度,其综合能力极为强大,再一次拉近开源模型与闭源模型的距离。同时这次Deepseek将V4模型分为多个版本,如flash、pro、max、base等版本,可能也是转向商业化的又一步。