



















当闭源模型加速领跑,开源阵营如何突围?DeepSeek V3.2 以稀疏注意力架构、超10%后训练算力投入和大规模Agent合成数据,在成本压缩的同时逼近GPT-5级推理能力,为开源生态开辟了一条技术驱动的新路径。

过去一年多里,大多数权威评测仍然在反复强调同一件事:在最前沿的综合能力上,闭源模型的曲线更陡,开源想在所有维度上追平变得越来越难。DeepSeek 在技术报告中也承认:开源社区在进步,但 Anthropic、Gemini、OpenAI 这些闭源模型的性能曲线更陡,差距其实在拉大。在复杂任务上,闭源系统展现出越来越明显的优势。
目前开源模型有三个关键问题:
首先,在架构层面,当前主流仍高度依赖 Vanilla Attention 机制,这在长序列场景下会严重限制计算效率。这种低效对模型的大规模部署以及有效的后训练都构成了实质性障碍。
其次,在资源投入上,开源模型在后训练阶段普遍面临算力投入不足的问题,从而限制了其在高难度任务上的表现。
最后,在 AI Agent 场景中,相比于闭源系统,开源模型在泛化能力与指令跟随能力方面存在显著滞后,这削弱了其在真实部署中的有效性。
12月1号,DeepSeek发布了两款新模型:DeepSeek V3.2和DeepSeek V3.2 Speciale,针对这三个问题,提出了三个改进:
1. 引入了一种高度高效的注意力机制 DSA (DeepSeek Sparse Attention, 稀疏注意力),旨在显著降低计算复杂度。该架构有效缓解了效率瓶颈,即便在长上下文场景中也能维持模型性能。
2. 构建了一套稳定可扩展的强化学习(RL)协议,使得在后训练阶段可以大幅扩展算力投入。为后训练分配的计算预算超过预训练成本的 10%,从而释放出更高阶的模型能力。
3. 提出了一条新的数据流水线,用于在工具使用(tool-use)场景中培育具有泛化能力的推理。并推进到大规模的 agentic 任务合成阶段,在该阶段中构建了超过 1,800 个不同环境以及 85,000 个复杂提示(prompts)。这些大规模合成数据显著提升了模型在 agent 场景下的泛化能力和指令跟随能力。


DeepSeek V3.2 在大幅压缩成本的前提下,推理能力做到了接近 GPT-5 的整体表现
1. 架构升级的唯一变动
DSA 是 DeepSeek-V3.2相比前代 V3.1-Terminus 唯一的架构层修改。这一改进旨在解决标准注意力机制在长上下文场景下的计算瓶颈 。随着上下文长度(L)增加,传统机制的计算复杂度呈 O(L^2) 增长,这不仅降低了推理速度,也限制了后训练阶段强化学习计算量的扩展。
2. 两阶段稀疏化筛选机制
DSA 引入了一套包含两个组件的稀疏机制,将全量计算转变为选择性计算:

3. MLA 框架下的实现方式
DSA 是在多头潜在注意力 (MLA) 框架下实例化的。为了最大化计算效率,它采用了多查询注意力(MQA) 模式,使潜在向量在所有查询头之间共享。这种结构设计优化了筛选路径和负载。
4. 复杂度降低与性能验证
该设计将核心注意力的复杂度从 O(L^2) 降低到了 O(L*k),其中 k 远小于 L 。2025 年 9 月的评估显示,DSA 在常规任务上相比密集注意力基线模型没有出现性能下降。在 AA-LCR 长文本推理基准测试中,其得分比上一代模型高出 4 分 。
1. 算力策略重构:全能型混合训练
DeepSeek – V3.2 将后训练阶段的算力预算提升至预训练成本的 10% 以上,通过扩大后训练计算规模来实现性能突破。为了高效利用预算,团队摒弃传统分阶段微调,采用混合强化学习方案。
2. 底层算法优化与推理极限
为了支撑大规模 RL 的稳定性,团队对GRPO 算法进行了底层的数学修正,使模型能够承受高强度的训练压力 。

在 DeepSeek-V3.2 中,DeepSeek 团队沿用了之前的思路,在一个大家都以为只有巨头才能做大模型的时代,用新颖的思路和技术完成了弯道超车。Scaling law 的边际收益正在变得越来越小。要再复制一次从 GPT-3.5 跃迁到 GPT-4 那种量级的提升,已经很难只靠多堆数据和算力解决,谁能提出新的科学思路、训练机制和架构范式,谁才有机会打开下一段增长曲线。某种意义上,大模型又被拉回到了一个更偏“学术研究驱动”的时代。模型不是护城河,能力和落地才是。
DeepSeek 为整个开源社区做出了榜样和指引性的作用:如何在有限预算下重做架构、训练,重塑 Agent 体系,走出一条不依赖闭源的路。接下来这条路会延伸到哪里,无人能下定论,但故事远没有结束,让我们静待它在未来几年里,继续如何改写大模型的边界。
作者:Calvin、Roman、Laura
本文由人人都是产品经理作者【深思SenseAI】,微信公众号:【深思SenseAI】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载。
题图来自Unsplash,基于 CC0 协议。
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。