惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Microsoft Azure Blog
Microsoft Azure Blog
V
V2EX
博客园 - 【当耐特】
WordPress大学
WordPress大学
爱范儿
爱范儿
美团技术团队
宝玉的分享
宝玉的分享
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
小众软件
小众软件
量子位
Hugging Face - Blog
Hugging Face - Blog
B
Blog RSS Feed
Recorded Future
Recorded Future
Engineering at Meta
Engineering at Meta
雷峰网
雷峰网
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
M
MIT News - Artificial intelligence
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
博客园 - 聂微东
H
Hackread – Cybersecurity News, Data Breaches, AI and More
腾讯CDC
大猫的无限游戏
大猫的无限游戏
Jina AI
Jina AI
博客园 - 叶小钗
GbyAI
GbyAI
Y
Y Combinator Blog
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
F
Full Disclosure
G
Google Developers Blog
D
Docker
T
Tailwind CSS Blog
C
Check Point Blog
Last Week in AI
Last Week in AI
人人都是产品经理
人人都是产品经理
T
The Blog of Author Tim Ferriss
B
Blog
博客园 - 三生石上(FineUI控件)
博客园 - Franky
H
Help Net Security
MyScale Blog
MyScale Blog
U
Unit 42
D
DataBreaches.Net
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
I
InfoQ
阮一峰的网络日志
阮一峰的网络日志
The GitHub Blog
The GitHub Blog
L
LangChain Blog
有赞技术团队
有赞技术团队
Martin Fowler
Martin Fowler
Microsoft Security Blog
Microsoft Security Blog

量子位

AI自主监测宠物健康,陪狗都不用自己来了!涂鸦Hey Tuya打造全屋智能“超级入口” 燃油SUV车主熬出头了!华为乾崑智驾加持,全新奥迪Q5L率先实现智能化 华人再破硅谷天花板!AI黑马新任CTO,中科大80后 0博士组合拿下ICLR时间检验奖!两个GPT天才本科生+二本逆袭LeCun弟子,十年论文终封神 DeepSeek V4报告太详尽了!484天换代之路全公开 优必选发布Thinker cosmos:加码开发者生态,推动人形机器人走向规模化 DeepSeek-V4发布,华为云首发适配 Mobileye 2026财年一季度营收增长27%,自动驾驶商业化进程持续推进 100%主流车企的共同选择:一个AI“通用底座”正在汽车行业成型 真有人做AI小猫啊?!生产力和情绪价值都拉满了 Coordination Engineering关键一环,JiuwenClaw再发布Team Skills技能新范式 DeepSeek V4终于发布!打破最强闭源垄断,明确携手华为芯片 荣耀WIN游戏本等多款新品正式发布,荣耀PC家族全面爆发 刚刚,GPT-5.5发布!内测英伟达工程师:失去它像被截肢 河南师傅,左手扳手,右手飞书,竟然能搞数据分析! 国内首家百亿估值纯推理GPU独角兽诞生!专访曦望联席CEO王湛:谁的推理成本更低谁就是赢家 印奇站上AI+车浪潮之巅:7个月,千里科技和华为「五五开」 飞书项目开放平台焕新升级,全面迈向“AI Friendly” 半壁华人!GPT Image 2团队曝光:无锡才俊带队,13人4个月封神 Nature封面:机器人乒乓球干翻人类职业选手 特斯拉开源硬件,中国公司回应来了:直接把机器人大脑开源了 挖漏洞何必Mythos,国产智能体早跑通了 “不造车的特斯拉”亮出“舱驾一体”全家桶,汽车长出“主动理解力”,奇瑞比亚迪等10+巨头力挺 科大讯飞发布燎原N30m笔记本,重塑全栈国产AIPC新标杆 神秘模型「大象」:仅100B拿下SOTA,Token效率超高! 香港科创标杆奖项!商汤首席科学家林达华荣获中银香港科创奖 国产多模态Agent拿下医学分割SOTA!不用改模型、不加token 这些人读个博一年能挣几十万?2026苹果学者名单公布了 大厂AI抢人大战,从实习生开始 全球首个世界统一模型发布,机器人家庭成员来了! 从GPU到Token:AI基础设施竞争逻辑重构 2026萤石品牌新品发布会:驭智向前锚定长期主义,AI驱动多点开花 6分钟满电续航1500公里!宁王一夜终结加油时代 单Agent时代结束,AI们开始组团上班 前小鹏汽车自动驾驶一号位李力耘出任众擎CTO,加速打造具身大脑 5月20日,马上AI起来!中国AIGC产业峰会报名已启动|首波嘉宾官宣 物理优先+VLA闭环进化:高德ABot-World世界模型,破解具身智能零样本泛化难题 ISC.AI 2026创新独角兽沙盒大赛在京启动 聚焦智能体 共筑AI创新生态 都让让!赛博女娲蒸馏一切,让乔布斯马斯克集体给你打工 把人类驾驶员赶出机场,复旦大牛校友要港股IPO了 小米宣布上线PC版龙虾,Xiaomi miclaw正式开启PC、Mac、有屏音箱多终端封测 Agent正杀入软件研发一线!全球超60位技术专家拆解AI落地困局,2026奇点智能技术大会收官 Kimi新论文:把KVCache玩成新商业模式了 横扫全球15项SOTA!高德首个面向AGI的全栈具身技术体系大公开 大模型架构的下半场 高德发布全球首个面向AGI的全栈具身技术体系“ABot”:15项SOTA,构建持续进化的具身智能闭环 马斯克来抖音卖老干妈了?? 教龙虾玩手机!打通GUI智能体训练-评测-部署全流程,训练、真机、评测一站解决 黄仁勋都被问毛了:顶级AI厂商在去CUDA?“你的前提就是错的” 王濛代言的方盒子19万开卖,头顶激光雷达,底盘能“预瞄”路况 AI开始接管实验室了!玻尔·跃迁实验室:试剂、设备、数据一个入口搞定,1800+设备即插即用 OpenClaw的风,已经吹进了奶茶圈 11.58万,全系Lidar+L4同源算法,广汽文远把城区NOA打成白菜价 4.55亿美金!中国具身智能最大单笔融资诞生,高瓴红杉联手押注具身大脑 谷歌最强具身大脑发布!波士顿机器狗瞬间人模人样 π0.7发布,VLA押出了机器人的GPT-3时刻 18家具身顶尖势力集结,RoboChallenge 打造全球最大具身模型竞技场 空间智能第一股,开盘暴涨171%!李飞飞押注的赛道,杭州六小龙之一跑通了 ImageNet作者苏昊回国任教复旦!李飞飞高徒,具身第一高引,出任通用物理AI院长 PPIO上线PPHermes:云端沙箱一键部署Hermes Agent 72天,从0到千万小时产能,这个具身「新锐派」凭什么接管数据赛道? 打造全球领先“具身智能超级供应链”,京东发布行业首个具身数据全链路基础设施 世界客商排队体验讯飞AI眼镜,科大讯飞把多语种AI能力带进广交会第一现场 刚刚,机器人练成了宁次的「白眼」:∞帧画面边看边3D重建我们的世界! 宁王飘了!日赚2.3亿,回应比亚迪“闪充”:跟我学的,构不成挑战 腾讯官宣升级AI小程序成长计划,所有小程序都能申请 扔掉你的Token账单吧,荣耀YOYO Claw技术把养虾成本打下来了 Claude实名认证引众怒!强制验证是为了更精准封号 短短3个月,高德已拿下具身智能领域15项世界第一 我用1分钟开发了个上线应用,有阿里Meoo谁还学编程啊 继HappyHorse后,阿里又有一款模型登顶权威评测榜单 具身智能为什么还没真正落地?问题卡在这|沙龙报名 炸奥特曼的人被扒出来了 全球首创16cm极致外扩超级机械臂,MOVA扫地机开启清洁新纪元 百度Create大会官宣三大核心看点,国内最大AI开发者嘉年华5月北京揭幕 北电数智发布星火·AI云2.0,以AI系统工程重塑产城发展范式 | 酒仙桥论坛 CAAI携手中国人民大学高瓴人工智能学院、英博数科启动高校学院算力支持计划 今年最火的AI产品,不止龙虾|榜单申报中 入职Meta的吴翼,清华叉院官网已撤其教职信息 智能座舱“大脑”No.1冲刺港股,身价630亿,小米理想小鹏背后的共同供应商 别养龙虾了,硅谷Agent新潮流是「爱马仕」 Claude强到不敢发的Mythos,被质疑用了字节Seed技术 有人把巴菲特芒格炼化成Agent,然后开源了… 「Claude Code之父」其实是野路子来的…… 养虾人看哭了!字节扣子2.5出生即满级,手机对话就能Vibe Coding HTML-in-Canvas引爆前端!AI时代互联网视觉效果完全不一样了 36.4万超声图文对!中国团队构建首个大规模超声专属数据集,让AI真正读懂临床诊断语义丨CVPR’26 Claude复活30年前传奇游戏,仅用一个周末 超越人手!中国第一家脑机接口独角兽,要把仿生手带给机器人 滴滴自动驾驶张博:聚焦安全和体验 推动自动驾驶全球化落地 奥特曼遭遇死亡威胁:凌晨家中被投燃烧瓶 中国具身模型狂揽全球第一!机器人的人类数据时代来了 刘壮陈丹琦新作:开源通用视觉推理RL框架,0思考数据刷新SOTA 阿里视频生成大模型Wan2.7登顶DesignArena榜单 紫荆智康发布“紫荆AI医院”线上虚拟诊室 击败PI!星动纪元登顶具身奥林匹克,狂揽三项全球冠军 实测刘翔pick的国产AI汽车,BBA老车主的豪华滤镜碎了 奔驰崩了,在华销量大跌27% LeCun点赞:国产开源模型占领硅谷,性价比超10倍 刷屏的SBTI,底层算法有点东西…
一次吃下一本书!百度开源新OCR,作者疑似前DeepSeek研究员
林樾 · 2026-06-28 · via 量子位

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

2026-06-28 14:04:17 来源:量子位

henry 发自 凹非寺

量子位 | 公众号 QbitAI

国产开源OCR又刷新SOTA!

刚刚,百度开源了全新的OCR新模型——

Unlimited OCR

它主打一口气读完几十页长文档,并在OmniDocBench上刷新SOTA,整体成绩超过此前的DeepSeek OCR。

与传统OCR处理长文档时“一页一页读,再把结果拼回去”的思路不同,Unlimited OCR这次模仿了一种酷似人类抄录员的工作方式:

不再死记硬背前面已经抄写过的内容,而是只保留当前工作需要的信息和进度。

基于此,它能够像人一样连续阅读整本书,而不是每读完一页就中断一次,再从下一页重新开始。

更关键的是,借助创新的参考滑动窗口注意力(Reference Sliding Window Attention,R-SWA)机制,即便文档越来越长,显存占用和注意力计算开销也几乎不会增长。

这是怎么做到的?

for-loop只是权宜之计

要理解Unlimited OCR,得先看看传统OCR是怎么处理超长文档的。

简单来说,OCR(光学字符识别,Optical Character Recognition)就是把图片里的内容读出来,再转换成Markdown等可编辑文本。

在以往的处理流程中,一张图片会先进入编码器,被压缩成一串视觉Token;随后解码器再一个字一个字地把内容写出来。

但问题在于,传统的OCR解码器每生成一个新Token,它都需要回头查看之前生成过的所有Token,再决定下一个字该写什么。

于是文档越长,需要回看的历史内容就越多,KV Cache持续膨胀,显存占用和注意力计算开销也随之增长。

最终,无论是生成长度还是推理速度,都会受到限制。

这也是为什么现有OCR系统很难一次读完几十页文档,通常只能采用“逐页处理+结果拼接”的方案:

每读完一页就重置上下文,最后再由外部程序把结果重新拼起来。

这种for-loop式方案虽然工程上可行,但本质上只是权宜之计,而Unlimited OCR想解决的,正是进一步扩展模型在长程任务的表现。

参考滑动窗口注意力

那,问题来了。

如果不采用逐页重置的for-loop方案,模型又该如何在保持连续阅读状态的同时,避免KV Cache随着文档长度无限增长?

Unlimited OCR给出的答案,不是让模型记住更多东西,而是让模型学会像人一样“遗忘”。而这,就引出了它最核心的创新点:参考滑动窗口注意力

为了说明参考滑动窗口注意力的设计思路,研究举了一个非常形象的例子:人类阅读长文档其实并不是全量回溯的。

比如抄写一本书时,你不会每写一个字都重新翻阅前面几十页。

你只会保留当前的阅读状态,以及刚刚写下的一小段内容,用来确认没有跳行、没有漏字,更久远的信息则会逐渐淡出记忆。

论文将这种机制称为软遗忘(Soft Forgetting)

受此启发,参考滑动窗口注意力应运而生。

对于每个待生成Token,模型始终关注全部参考Token(Reference Tokens),也就是视觉Token和提示词;

与此同时,在输出端只保留最近n个历史Token(默认128个)参与注意力计算。

就好像你抄书的时候,原书始终摊开在桌面上,可以随时查看完整内容;

而手边只保留最近写下的几行字,用来追踪当前进度。更早的内容则自然淡出工作记忆。

这样一来,模型既能持续看到完整图像,又能依靠局部历史信息判断当前解析到了哪里。

此外,这里值得一提的,还有Unlimited OCR的KV Cache管理方式。

论文将KV Cache设计成一个固定长度的队列。每生成一个新Token,最旧的一部分状态就会自动移出,新状态再补进来。

因此,无论最终生成几千还是几万个Token,KV Cache规模始终保持恒定,显存占用和计算成本都不会继续增长。

这也是R-SWA与其他注意力机制最大的区别。

相比全注意力(Full Attention),后者的KV Cache会随着解码不断膨胀,而R-SWA始终保持固定大小。

相比传统滑动窗口注意力(SWA),后者会把视觉Token和文本Token一起放进窗口,随着窗口不断滑动,早期视觉信息会逐渐被挤出;解码越长,对原图的感知就越模糊。

而R-SWA则将视觉Token单独保留下来,让它们始终作为参考信息存在,不参与滑动窗口更新。

换句话说,图像始终保持清晰,发生滑动的只有输出文本本身。

正如上图所示,传统OCR越读越慢,而Unlimited OCR基本保持匀速运行,这正是R-SWA的价值所在。

实验验证

在实验部分,研究团队采用OmniDocBench v1.5和v1.6评估模型的文档解析能力,并额外构建了覆盖2页至40页以上文档的内部测试集,专门考察其长文档连续解析能力。

首先来看整体成绩。

在OmniDocBench v1.5上,Unlimited OCR取得了93.23%的综合得分,相比DeepSeek OCR提升6.22%

在最新的v1.6版本中,成绩进一步达到93.92%,刷新当前SOTA。

长文本解析能力方面,即便一次性输入40页以上内容,模型依然能够保持稳定表现。

其Distinct-35指标达到96.90%,编辑距离(Edit Distance)始终维持在0.1069以下。

换句话说,随着文档长度不断增长,模型并没有出现明显的内容混淆或解析质量下降。

除了精度提升,Unlimited OCR还带来了推理效率上的改善。

由于采用恒定KV Cache设计,模型的推理开销不会随着文档页数持续增长。在生成6000个Token时,其推理速度(TPS)相比DeepSeek OCR提升约35%。

与此同时,调用延迟(Latency)基本保持稳定,没有出现长文档场景下常见的延迟飙升现象。

OCR之外:一种新的长上下文思路

如果把最近一年的时间线串起来看,会发现一个有意思的现象:越来越多头部模型公司开始重兵投入OCR。

从DeepSeek年初发布OCR2,到智谱开源GLM-OCR,再到百度这次推出Unlimited OCR,大家争夺的早已不是单纯的文字识别能力,而是新的数据入口。

互联网数据正在被快速消耗,而企业真正有价值的数据,其实大量沉睡在PDF、合同、报告、票据和扫描件里。

对于人类来说,这些是信息,但对于模型来说,它们只是像素。

OCR的意义,就是把这些像素重新变成模型能够理解和推理的Token。因此,OCR正在从一个传统工具,逐渐变成AI时代最重要的数据入口之一。

不过,如果只把Unlimited OCR看成一个OCR模型,可能就低估了它。

过去两年,行业面对长上下文问题时,最主流的思路一直是扩容。

128K、1M、10M,上下文窗口不断变长;各种长上下文优化方案,本质上也都在思考如何让模型记住更多信息。

而R-SWA反着来。

与其让模型记住一切,不如让它学会像人一样遗忘。

所以说,Unlimited OCR看起来解决的是OCR问题,但它修改的是注意力机制本身。而注意力,恰恰是今天几乎所有大模型共同的基础设施。

因此,这篇论文真正讨论的,其实不只是OCR该怎么做,而是另一个更基础的问题:

当任务越来越长时,模型究竟该如何管理自己的记忆?

论文也给出了明确的路线图。

短期内,团队计划训练更长上下文版本,把解析能力扩展到128K;长期则希望构建类似“预填池(Prefill Pool)”的机制,让模型能够像人翻书一样,按需调取历史KV状态,进一步突破上下文限制。

而更有意思的是,他们计划将R-SWA扩展到语音识别、机器翻译等任务。

换句话说,OCR或许只是第一站。

某种程度上,这条“怎么记”的路线,也恰好与DeepSeek OCR2探索的“怎么看”形成了呼应:

前者关注视觉信息如何被更高效地理解,后者则开始思考这些信息该如何在超长任务中被保留、传递与遗忘。

从视觉理解到长期记忆,从OCR到更广义的长时推理。

或许,这才是Unlimited OCR真正想讲的故事。

One more thing

值得一提的是,技术报告发布后,作者名单里的一个名字也引发了不少讨论。

在三位核心贡献者中,有一位作者并没有使用全名,而是以“YY”的缩写署名,并被标注为技术总监。

这个YY是谁?

很快,网友们开始顺着论文里的各种细节寻找答案。

首先是这份技术报告本身。

从行文风格到技术叙事,读过DeepSeek OCR技术报告的人,大概率都会有一种熟悉感。

无论是强调“像人一样阅读文档”的理念,还是把技术问题包装成一个关于记忆与遗忘的故事,都带着浓厚的探索色彩。

而在技术实现上,Unlimited OCR同样出现了不少熟悉的身影。

众所周知,DeepEncoder最早正是在DeepSeek OCR中被提出。这次Unlimited OCR则直接沿用了这一高压缩率视觉编码器,并将创新重点放在了解码阶段的长期记忆机制上。

有意思的是,在项目GitHub页面的致谢部分,团队还专门提到了DeepSeek OCR和PaddleOCR等相关工作。

种种线索叠加之下,不少网友开始猜测:这位YY,很可能就是前DeepSeek OCR团队研究员魏浩然

作为OCR领域的资深研究者,魏浩然此前曾在阶跃星辰工作,并主导开发了被称为“第二代OCR”代表作之一的GOT-OCR2.0。

该项目也是端到端OCR方向最早跑通的开源标杆之一。此后,他又参与了DeepSeek OCR系列的研发,在DeepSeek OCR和OCR2的核心作者名单中,长期出现的正是魏浩然、孙耀峰和李宇琨三人。

而这一次,在Unlimited OCR的技术报告中,人们似乎又看到了同一条研究路线继续向前延伸的影子。

当然,截至目前,YY的真实身份仍未得到官方确认。

但比身份本身更有意思的,或许是这篇论文所展现出的研究思路:

从视觉编码,到长期记忆;从“怎么看”,到“怎么记”。

而OCR,也许只是这条路线的第一站。

参考链接:

[1]https://github.com/baidu/Unlimited-OCR

[2]https://huggingface.co/baidu/Unlimited-OCR

版权所有,未经授权不得以任何形式转载及使用,违者必究。