





















这次我们不讲论文,不聊架构,不比 benchmark。
只讲落地。
讲实际写代码做 LLM 应用的时候,你会被卡在哪儿、会被坑在哪儿——以及 DeepSeek V4 这次到底解决了哪几个真实的痛点,又为哪些原来做不了的场景打开了新的可能性。
下面从三个维度展开:速率限制、上下文长度、响应速度。每个维度配一个真实场景。文末附上各家供应商文档链接和横向对比表。
写过 LLM 应用的同学,这一幕基本都见过:
凌晨三点上线高峰,监控告警炸了。HTTP 429 满屏滚动。日志一翻全是 rate limit exceeded。然后你点开账户后台——RPM 上限 60,TPM 五万。
这数字怎么来的?充值额度等级决定的。
国内几乎所有大模型厂商都是这套玩法:你钱越多,RPM/TPM 给得越宽。
具体看几家:
而 DeepSeek 官方文档里只写了一句:
「DeepSeek API 不限制用户并发量,我们会尽力保证您所有请求的服务质量。」
请注意:不是限制宽松,是直接没设。
DeepSeek 实际是动态限流——服务器扛不住就按负载返回 429,扛得住就一直跑。这跟「按充值分级限速」是两套逻辑。
要承认,固定的 RPM/TPM 不全是坏事。对真正吃稳定性、需要 SLA 的大业务,固定限速反而是一种确定性:你能预先算出"今晚最多能跑多少请求",围绕它做容量规划、做架构设计、做超额降级。这件事在公共 API 的动态限流模式下做不到——服务器抖一下你就 429,可控性差。
但问题在于,主流厂商给到中低档位付费用户的上限,普遍都不算高。免费层只够调试,起步付费档跑不出像样的并发,想拿到能真正撑业务的档位,要么消费门槛高,要么得走商务工单。
这就是中间夹层最痛的地方——已经在付费,但还没到能享受"高 Tier 待遇"的份额。小公司、独立开发者、刚跑起来还没扩张的项目,基本都在这一段。
至于真正的大企业?他们也不靠公共 API 的默认配额过日子——直接走商务渠道跟 provider 单独谈专属容量和 SLA 就行,DeepSeek 当然也支持。任何 provider 在这个体量下都是这么做的。
所以加起来看:DeepSeek 的"不分级 + 动态限流"在中小段是真正的解法,在大企业段不受影响——两头都不亏,中间档把"必须先充够钱才能跑业务"这个最痛的环节绕过去了。
之前做过一个法律合同批处理系统。需求很直接:律所每天导入 500–2000 份合同 PDF,做条款抽取、风险点识别、对比版本差异。
预算压得死。一开始选了某主流厂商,价格也不贵。结果第一天上线就跪了——RPM 上限 200,1000 份合同切片之后产生的 LLM 调用是 8000+ 次,跑下来 40 分钟。客户那边等结果,电话一个接一个。
想升级?下一档 TPM 翻倍,RPM 只加 100。
后来切到 DeepSeek,一晚上就重构完了。同样的代码,并发直接拉到 50,8000 次调用 7 分钟出头跑完,中间偶尔 429 重试一两下,整体平稳。
这个场景的关键是:短时间大量并发,但不需要 24 小时持续高负载。批处理、定时任务、数据回填、大规模 eval——这类场景里,按充值分级的 RPM 就是噩梦。DeepSeek 的「按服务器负载动态限流」,反而是为这种活儿量身做的。
国内 API 端支持 1M 上下文的模型,集中在 2026 年 3-4 月这一波密集涌现,DeepSeek V4 是第一批中的一员:
整个第一批集中在 5 周左右,时间差并不大,可以视作国产大模型同步迈过 1M 这道门的一波集体动作。
但"技术上支持 1M"和"1M 真正能用上"完全是两码事。
参数表上写着"支持 1M 上下文"的模型很多,真要把 80 万 tokens 塞进去做复杂推理,模型本身得有足够的"脑容量"才能扛得住。比如 Qwen3.6-Flash 是 35B 总参数 / 3B 激活的模型,标称 1M 上下文,但 3B 激活参数想在百万 token 上下文里做跨段推理、整体规划——基本上是"看得见但用不上"。就像给小学生一本三千页的法律全书让他做合同分析,他翻得动,翻不明白。
真正"1M 上下文能干活"的国产模型,到 DeepSeek V4 发布时大致是这几个梯队:
| 模型 | 上下文 | 模型量级 | 1M 是否实用 | 输入价格 | 速率限制 |
|---|---|---|---|---|---|
| DeepSeek V4-Flash | 1M 原生 | 中等(284B / 13B 激活) | ✓ 实用 | ¥1/M(缓存 ¥0.02) | 不分级 |
| DeepSeek V4-Pro | 1M 原生 | 旗舰(1.6T / 49B 激活) | ✓ 实用 | ¥3/M(限时折扣) | 不分级 |
| 小米 MiMo-V2-Pro | 1M 原生 | 旗舰(1T / 42B 激活) | ✓ 实用 | ~¥14/M | RPM 100, TPM 10M |
| Qwen3.6-Plus | 1M 原生 | 旗舰 | ✓ 实用 | ¥2/M(阶梯计价) | 按 Tier 分级 |
| Qwen3.6-Flash | 1M(256K 扩展) | 极轻量(35B / 3B 激活) | ✗ 名义支持但难以做复杂任务 | 阶梯计价 | 按 Tier 分级 |
| Kimi K2.6 | API 端 256K(非 1M) | 旗舰 | — | ~¥6.7/M | 按 Tier 分级 |
这里还有几个容易混淆的地方拎一下:
所以 DeepSeek V4-Flash 真正的独占位置是这个组合:中等量级(能真正用得起 1M)+ 1M 上下文 + 不分级限速 + 缓存命中近乎免费 + 价格透明不分段。
国内目前能踩在这个交集上的,只有 DeepSeek V4 系列一家。
为什么这个组合重要?看下面三个场景。
1. 整仓代码理解类 Agent
一个中等规模的项目仓库大概在 30–80 万 tokens(所有源码、README、配置文件 dump 进去)。
之前想做"基于整个仓库回答问题"的 Agent,要么做精细 RAG 分片(切片质量决定回答质量),要么用 Claude Opus(成本爆炸)。
现在?直接把整个仓库 dump 进 V4-Flash 上下文,缓存命中之后每一轮对话的输入成本只有 0.02 元/M——塞满一个仓库,也就一两分钱。
同样的任务用小米 MiMo-V2-Pro 跑,单次输入价是 V4-Flash 的 14 倍,1T 参数的旗舰款响应速度也明显慢一截。
2. 长会议/长视频转录后的深度分析
一场 4 小时会议转录后大概 8–15 万 tokens。之前要做"基于整场会议的多角度分析"——按议题归纳、按发言人观点提取、找逻辑矛盾、对比上次会议——得分章节多次调模型再做拼接,效果还容易割裂。
现在 V4-Flash 一次吃完整场会议,一次性出多角度报告。
3. 上下文密集型的长程 Agent
之前做过一个内部工具,本质是"程序员 + 智能体"协作处理 ticket。Agent 要持续累积"上一步看了什么文件、改了什么代码、跑了哪些测试、报了什么错"作为上下文。
这类长程任务最大的瓶颈就是上下文滚动到一定长度后,要么开始遗忘前期信息,要么得花大力气做上下文压缩——而压缩本身又是个反直觉的坑。
业内研究和实测都指向同一个结论:有提示缓存(Prompt Caching)的前提下,"不压缩、塞进长上下文"的总成本反而比"压缩省 token"更低。
几个关键证据:
把这些放一起看,对 Agent 开发者来说算账逻辑就翻转了:
DeepSeek V4-Flash 在这个新算法下接近极致:
什么意思?一个长程 Agent 第一轮把历史塞进上下文要花的钱,从第二轮开始每次几乎都按 ¥0.02/M 这个白菜价计费。压缩省那点 token,跟这个量级的成本下降比起来毫无意义——还要冒着压缩丢信息、任务失败重跑的风险。
这一节聊主观感受,没有第三方 benchmark 撑腰,但用过的人都有共识。
V4-Flash 主观上的"快"体现在两点:
为什么这件事在某些场景里是决定性的?
V4-Flash 是轻量级模型(约 284B 总参数 / 13B 激活)。同样支持 1M 上下文的小米 MiMo-V2-Pro 是 1T 总参数 / 42B 激活的旗舰款——参数量是 V4-Flash 的 3 倍多,响应速度必然慢一截。这就是"Flash 级模型做 1M"和"旗舰款做 1M"的本质区别。
做过 to C 聊天产品的都知道:首字延迟超过 1.5 秒,用户流失率陡升;超过 3 秒,留存基本崩盘。
如果你的应用是"用户提问 → LLM 直接回答",首字延迟就等于用户感知到的响应延迟。模型质量再好,慢了一切都白搭。
一个 Agent 完成复杂任务可能要 10–20 次模型调用(每次工具调用前后都要让模型决策)。每次调用延迟差 1 秒,整体任务多 10–20 秒。
Agent 不像聊天能靠流式输出掩盖延迟,延迟是直接累加的。V4-Flash 的速度优势在这种场景下会被 N 倍放大。
之前做过一个数据查询 Agent:自然语言提问 → 写 SQL → 数据库执行 → 解读结果 → 可能再追问一轮。整个链路 5–8 次模型调用。从某个比较慢的模型换到 V4-Flash 之后,端到端响应从 18 秒压到 6 秒——前者用户已经切去别的标签页了,后者还在屏幕前等。
VS Code 里写代码时,LLM 补全延迟超过 200ms 就明显打断心流。这种场景对响应速度的要求变态地高,Cursor 之所以体验好,核心就是它做了大量延迟优化。
V4-Flash 配合本地缓存,在这个场景里非常合适。
| 厂商 | 限制类型 | 默认配额(付费) | 提升方式 |
|---|---|---|---|
| DeepSeek | 动态限流,无 RPM/TPM 上限 | 不限制并发 | 服务器负载决定,与充值无关 |
| 阿里百炼 (Qwen) | 按账户 Tier RPM/TPM | 因模型而异 | 升级 Tier / 工单 |
| 智谱 (GLM) | 按账户 Tier | 因模型而异 | 升级 Tier / 套餐订阅 |
| 月之暗面 (Kimi) | 按账户 Tier RPM/TPM | 因 Tier 而异 | 升级 Tier |
| 字节豆包 (火山方舟) | 按账户 Tier | 通用模型 Pro 1万 RPM + 80万 TPM | 升级 / 工单 |
| 腾讯混元 | 默认 5 并发 | 主子账号共享 | 800 元 / 并发购买 |
| MiniMax | 按账户 Tier | 付费默认 500 RPM / 2000万 TPM | 联系增加 |
| 小米 MiMo-V2-Pro | RPM 100, TPM 10M | 上限固定 | Token Plan 升级 |
| 百度文心 | 按账户 Tier | 因模型而异 | 升级 / 工单 |
| 讯飞星火 | 按账户 Tier | 因模型而异 | 升级 / 工单 |
| 模型 | 发布时间 | 上下文 | 模型量级 | 1M 实用性 | 输入价格 | 速率 |
|---|---|---|---|---|---|---|
| Qwen-Long | 2024 | 10M | 旗舰 | 文件上传机制,长文专用 | ¥0.5/M | 文件 API |
| 小米 MiMo-V2-Pro | 2026/3/18 | 1M 原生 | 1T/42B | ✓ 实用但偏重 | ~¥14/M | RPM 100 |
| Qwen3.6-Plus | 2026/4/2 | 1M 原生 | 旗舰 | ✓ 实用 | ¥2/M(阶梯计价复杂) | Tier 分级 |
| Qwen3.6-Flash | 2026/4 | 1M(扩展) | 35B/3B 激活 | ✗ 纸面 1M | 较低(阶梯计价) | Tier 分级 |
| DeepSeek V4-Flash | 2026/4/24 | 1M 原生 | 284B/13B 激活 | ✓ 实用且轻量 | ¥1/M(缓存 ¥0.02) | 不分级 |
| DeepSeek V4-Pro | 2026/4/24 | 1M 原生 | 1.6T/49B | ✓ 实用 | ¥3/M(限时) | 不分级 |
| 模型 | 输入(缓存未命中) | 输入(缓存命中) | 输出 | 备注 |
|---|---|---|---|---|
| DeepSeek V4-Flash | 1 | 0.02 | 2 | 最具性价比 |
| DeepSeek V4-Pro | 3(限时 2.5 折,原 12) | 0.1 | 6(原 24) | 5/31 前优惠 |
| Qwen3-Max(≤32K) | 2.5 | — | 10 | 阶梯计费 |
| Qwen3-Max(32K–128K) | 4 | — | 16 | 阶梯计费 |
| Qwen3.6-Plus | 2 | — | 12 | 1M 上下文 |
| Qwen3.5-Plus(≤128K) | 0.8 | — | 4.8 | 性价比首选 |
| Qwen-Long | 0.5 | — | 2 | 长文专用 |
| 豆包 1.6(0–32K) | 0.8 | — | 8 | 按输入长度阶梯 |
| 腾讯混元 TurboS | 0.8 | — | 2 | |
| GLM-5.1 | ≈10 | — | ≈31 | $1.40/$4.40 |
| Kimi K2.6 | ≈6.7 | ≈1.1 | ≈28 | $0.95/$4.00, 256K |
| MiniMax M2 | 2.1 | 0.21 | 8.4 | 200K |
| 小米 MiMo-V2-Pro(≤256K) | ≈7 | — | ≈21 | $1/$3 |
| 小米 MiMo-V2-Pro(≤1M) | ≈14 | — | ≈42 | $2/$6 |
| 小米 MiMo-V2-Flash | 0.7 | 0.07 | 2.1 | 256K |
作为国内第一批 API 支持 1M 上下文的模型之一,DeepSeek V4 的意义不在跑分有多高,也不在参数规模有多大。
它的意义在于:第一次让"1M 上下文"从一个参数表上好看的数字,变成普通开发者真正用得起、用得明白的能力。
每一项单独看,都有别家在某个维度上更极致:
而 DeepSeek V4-Flash 把这五件事同时做到了:
这个完整组合,目前国内只此一家。
对 LLM 应用开发者来说,这意味着:之前因为某一项卡点不得不放弃的场景——大规模批处理、整仓代码 Agent、长会议分析、长程 Agent、to C 实时对话——现在都可以重新拿出来想一想了。
不是说它一定是最优选。是说它第一次把这些场景的"基础门槛"显著拉低了。
价格、限速等具体数字以各厂商官方文档为准,本文截止 2026 年 5 月,后续可能调整。
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。