惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

K
Kaspersky official blog
罗磊的独立博客
F
Fortinet All Blogs
人人都是产品经理
人人都是产品经理
量子位
V
Visual Studio Blog
Blog — PlanetScale
Blog — PlanetScale
M
MIT News - Artificial intelligence
B
Blog RSS Feed
腾讯CDC
博客园_首页
aimingoo的专栏
aimingoo的专栏
博客园 - 三生石上(FineUI控件)
博客园 - Franky
S
SegmentFault 最新的问题
N
Netflix TechBlog - Medium
小众软件
小众软件
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
K
KPMG report finds enterprise disconnect between AI and its ROI | CIO
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
L
LINUX DO - 热门话题
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
Martin Fowler
Martin Fowler
D
Docker
P
Privacy & Cybersecurity Law Blog
S
Securelist
V
V2EX
Jina AI
Jina AI
阮一峰的网络日志
阮一峰的网络日志
T
Tor Project blog
The Hacker News
The Hacker News
Microsoft Azure Blog
Microsoft Azure Blog
AWS News Blog
AWS News Blog
The GitHub Blog
The GitHub Blog
有赞技术团队
有赞技术团队
T
The Exploit Database - CXSecurity.com
Help Net Security
Help Net Security
酷 壳 – CoolShell
酷 壳 – CoolShell
Application and Cybersecurity Blog
Application and Cybersecurity Blog
博客园 - 叶小钗
Recent Announcements
Recent Announcements
Cloudbric
Cloudbric
Y
Y Combinator Blog
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
Latest news
Latest news
MongoDB | Blog
MongoDB | Blog
H
Hackread – Cybersecurity News, Data Breaches, AI and More
Recorded Future
Recorded Future
V2EX - 技术
V2EX - 技术

美团技术团队

美团 · 技术团队 美团 · 技术团队 美团 · 技术团队 美团 · 技术团队 美团 · 技术团队 美团 · 技术团队 美团发布基于 N-gram 全新模型:嵌入扩展新范式,实现轻量化 MoE 高效进化 2025美团技术年货,「马」上到来 多维创新打造强泛化智能体模型,LongCat-Flash-Thinking-2601技术报告发布 美团 EvoCUA 刷新开源 SOTA,会用电脑还会持续进化的智能体! 美团 LongCat-Flash-Thinking-2601 发布,工具调用能力登顶开源 SOTA! KuiTest:基于大模型通识的 UI 交互遍历测试 AAAI 2026 | 美团技术团队学术论文精选 2025 | 美团技术团队热门技术文章汇总 美团 LongCat-Video-Avatar 正式发布,实现开源 SOTA 级拟真表现 大模型剪枝新范式:先浓缩,再剪枝——DenoiseRotator技术解读 LongCat 上线 AI 生图!精准高效,AI 创作不设限 美团发布 LongCat-Image 图像生成模型,编辑能力登顶开源 SOTA AI Coding与单元测试的协同进化:从验证到驱动 R-HORIZON:探索长程推理边界,复旦NLP&美团LongCat联合提出LRMs能力评测新框架 美团 LongCat 发布 AMO-Bench:突破 AIME 评测饱和困境,重新定义 LLM 数学上限 美团 LongCat Interaction 团队发布大模型交互系统技术报告 WOWService 美团开源LongCat-Audio-Codec,高效语音编解码器助力实时交互落地 NeurIPS 2025 | 美团技术团队论文精选 LongCat-Flash-Omni正式发布并开源:开启全模态实时交互时代 美团 LongCat 团队发布 VitaBench:基于复杂生活场景的交互式 Agent 评测基准 LongCat-Video 视频生成模型正式发布,探索世界模型的第一步 ICCV 2025 | 美团论文精选及多模态推理竞赛冠军方法分享 从0到1建设美团数据库容量评估系统 可验证过程奖励在提升大模型推理效率中的探索与实践 LongCat-Flash-Thinking 正式发布,更强、更专业,保持极速! 开源 | InfiniteTalk:无限长虚拟人视频生成的新范式 美团正式发布并开源 LongCat-Flash-Chat,动态计算开启高效 AI 时代 美团 M17 团队开源 Meeseeks 评测集:揭秘大模型的“听话”能力 可信实验白皮书系列08:开放式分析引擎 | 附PDF合集 美团智能头盔研发实践系列02:软件功能篇 美团智能头盔研发实践系列01:硬件设计篇 ACL 2025 | 美团技术团队论文精选 美团开源OIBench与CoreCodeBench:揭示大模型编程能力的真实水平 可信实验白皮书系列07:高阶实验工具 开源 | MeiGen-MultiTalk:基于单张照片实现多人互动演绎 可信实验白皮书系列06:观察性研究 JDK高版本特性总结与ZGC实践 可信实验白皮书系列05:准实验 可信实验白皮书系列04:随机轮转实验 可信实验白皮书系列03:随机对照实验 可信实验白皮书系列02:AB实验基础 可信实验白皮书系列01:从0到1的方法论与实践指南 MTGR:美团外卖生成式推荐Scaling Law落地实践 OR算法+ML模型混合推理框架架构演进 ICLR&CVPR 2025美团技术团队论文精选 行为正则化与顺序策略优化结合的离线多智能体学习算法 预测技术在美团弹性伸缩场景的探索与应用 美团技术年货 | 600+页电子书,算法、工程、测试、数据、安全系列大合集 鸿蒙应用签名实操及机制探究 2024 | 美团技术团队热门技术文章汇总 AutoConsis:UI内容一致性智能检测 CIKM 2024 | 美团技术团队精选论文解读 大前端:如何突破动态化容器的天花板? KDD 2024 OAG-Challenge Cup赛道三项冠军技术方案解读 新一代实验分析引擎:驱动履约平台的数据决策 大众点评技术部包揽KDD 2024 OAG-Challenge Cup赛道全部3项冠军 ACL 2024 | 美团技术团队精选论文解读 KDD 2024 | 美团技术团队精选论文解读 基本功 | 一文讲清多线程和多线程同步 小程序可测性能力建设与实践 SIGIR 2024 | 美团技术团队精选论文解读 Spark向量化计算在美团生产环境的实践 CVPR 2024 | 美团技术团队精选论文解读 基于多模态信息抽取的菜品知识图谱构建 DDD在大众点评交易系统演进中的应用 美团外卖基于GPU的向量检索系统实践 美团大规模KV存储挑战与架构实践 基于接口数据变异的App健壮性测试实践 美团技术年货 | 600+页电子书,前端、后端、算法、测试、运维系列大合集 美团RASP大规模研发部署实践总结 2023 | 美团技术团队热门技术文章汇总 美团到店终端从标准化到数字化的演进之路 AIOps在美团的探索与实践——事件管理篇 美团技术博客十周年,感谢一路相伴 基于UI交互意图理解的异常检测方法 如何利用「深度上下文兴趣网络」提升点击率? 基于模式挖掘的可靠性治理探索 代码变更风险可视化系统建设与实践 美团多场景建模的探索与实践 MJDK 如何实现压缩速率的 5 倍提升? 如何提供一个可信的AB测试解决方案 KDD 2023 | 美团技术团队精选论文解读 美团前端研发框架Rome实践和演进趋势 斩获CVPR 2023竞赛2项冠军|美团街景理解中视觉分割技术的探索与应用 MySQL自治平台建设的内核原理及实践(下) CVPR 2023 | 美团技术团队精选论文解读 超大规模数据库集群保稳系列之三:美团数据库容灾体系建设实践 超大规模数据库集群保稳系列之二:数据库攻防演练建设实践 Robust 2.0:支持Android R8的升级版热修复框架 超大规模数据库集群保稳系列之一:高可用系统 一次「找回」TraceId的问题分析与过程思考 基于AI+数据驱动的慢查询索引推荐 MRCP在美团语音交互中的实践和应用 SOTA!目标检测开源框架YOLOv6 3.0版本来啦
美团 LongCat 团队发布全模态一站式评测基准 UNO-Bench
美团技术团队 · 2025-11-17 · via 美团技术团队

多模态人工智能正从单一感知能力迈向视觉、音频与文本的统一融合,即全模态大模型(Omni-models)时代。然而,相应的评测体系却相对滞后。现有的评测工具不仅稀缺、各自为战,且几乎完全以英文为中心,缺乏对中文场景的有效支持。此外,一些现存的数据集在设计上存在局限性,例如部分问题的解答路径并非严格依赖于多模态信息的融合,这为科学评估模型真实的跨模态能力带来了一定的复杂性。

图 1:UNO-Bench 核心统计与发现概览

针对这些痛点,美团 LongCat 团队提出了一套高质量、多样化的一站式全模态大模型评测基准——UNO-Bench。该基准通过一个统一的框架,不仅能同时精准衡量模型的单模态与全模态理解能力,更首次验证了全模态大模型的“组合定律”——该定律在能力较弱的模型上呈现为短板效应,而在能力较强的模型上则涌现出协同增益,为行业提供了一种全新的、跨越模型规模的分析范式。这一发现的背后,是其系统性的数据构建流程:通过完全人工标注确保高质量与丰富度,有效防止数据污染。此外,该团队还引入了创新的“多步开放式问题”,旨在突破传统选择题的局限,更具区分度地刻画模型在复杂链路上的推理能力。

接下来,我们将详细介绍 UNO-Bench 是如何构建的,以及它如何为推动下一代 AI 的智慧演进奠定基础。

01. 评测现状:从单模态繁荣到全模态挑战

当前,面向单模态的评测基准已发展成熟且生态繁荣。无论是针对通用视觉理解的 MMBench、检验复杂数理逻辑的 MathVision,还是覆盖动态视频场景的 MVBench,以及在音频领域进行探索的 MMAU,这些高质量的评测资源极大地推动了 AI 在细分维度下的认知能力发展。然而,这些资源彼此独立,难以适应向全模态大模型演进的趋势。

当我们将目光投向新兴的全模态大模型评测领域,现状则面临挑战。尽管如 Gemini、Qwen-3-Omni 等兼容视听双模态的顶尖全模态大模型已崭露头角,但能够有效评估其综合能力的基准却稀缺且存在明显不足。例如,OmniBench 的部分数据存在错误答案,而 WorldSense 中由于使用音视频同步数据,大部分题目无需跨模态信息即可解答,导致难以有效衡量全模态的整合能力。

正是在这样的背景下,UNO-Bench 应运而生。LongCat 团队通过 1250 条人工标注的全模态样本和 2480 个增强的单模态样本,构建了一个适用于中文场景、横跨 44 类任务的综合性评测体系。其中,高达 98%的问题被严格设计为必须在跨模态条件下才能正确解答,这弥补了现有评测无法有效检验模型真实跨模态能力的痛点,为科学评估与推动全模态大模型的发展提供了坚实可靠的基石(详见表格 1)。

表格 1:多模态基准横向对比

说明:表格中,I、A、V、T 分别代表图像、音频、视频和文本模态。Acc.代表问答对的准确率,Solvable 代表需要全模态才能解决的问题比例。Source 代表素材来源,分为可防止数据污染的私有数据集和公开数据集。QA Type 代表问答类型,MC、MO 分别代表选择题和多步开放式问答。EN 和 ZH 分别代表英文和中文。

02. UNO-Bench 构建:从顶层设计到创新实现

一个卓越的评测基准始于一个科学的顶层设计。我们从定义模型核心能力体系出发,通过标准化的数据生产线确保高质量与多样性,并最终引入创新的评测方法与优化算法,共同构建了 UNO-Bench 的基石。

2.1 顶层设计:科学定义全模态大模型能力体系

图 2:UNO-Bench 统一能力体系图

该团队首先将模型的综合智能系统性地解构为两大核心层面:感知层与推理层。

  • 感知层:覆盖了从对象、属性、场景的基础识别,到空间关系判断、跨模态转换及语义理解等六大认知能力,并特别增设了跨模态对齐这一能力。
  • 推理层:在通用、STEM、代码等传统推理类别之上,着重加入了空间推理、时序推理、复杂推理等更能体现全模态大模型特色的高阶推理任务。其中通用推理细拆为常识推理和逻辑推理,空间推理细拆为静态推理和动态推理。

这一双维能力框架不仅为后续的数据构建提供了清晰的蓝图,也使得对模型能力的细粒度剖析成为可能。

2.2 数据构建:标准化的高质量生产线

为确保数据的顶尖品质,LongCat 团队建立了一套包含精选数据素材、专家级问答标注、严苛的多轮质检三个关键环节的标准化生产流程。所有关键对话均由超过 20 位真人录制,以高度还原真实世界的声学特征(如普通话、四川话等)。其中最关键的质检环节是模态消融实验:通过移除任一模态的信息来检验问题是否依然可解,以此严格确保 98%以上数据的“跨模态可解性”。

图 3:跨模态可解性问题示例

说明:图(a)展示了必须结合视听信息才能解答的问题,而图(b)和图©则分别展示了仅凭音频或视频即可解答的问题。

通过三个小案例(a, b, c)对比,清晰地展示了什么是必须由多个模态结合才能解答的问题,以及什么是仅凭单模态就能解答的问题。

数据生产流程的核心在于:

  • 针对现有数据集中普遍存在的两大问题——数据污染(视频素材可能已被模型在训练阶段“见过”)和信息冗余(视频自带的音频与画面高度同步,降低了跨模态推理的难度),我们采取了独特的素材构建策略。
  • UNO-Bench 中超过 90%私有化原创 。其中,大部分视觉素材来源于广泛的众包实拍,多样性、真实性更好的同时,也有效避免了模型因训练集覆盖而产生的“穿越”问题。
  • 更关键的是,为了打破信息冗余,所有关键的音频内容(尤其是对话)均独立设计并由真人录制,然后与视觉素材进行人工组合。这种“视听分离再组合”的方式,确保了音频和视频各自承载着不可替代的关键信息,迫使模型必须进行真正的跨模态信息融合,而不是简单的同步确认。

2.3 数据优化:单模态补全与高效压缩

为构建全面的评测体系,我们不仅自建数据,还针对性地从 AV-Odyssey、WorldSense 等公开数据集中筛选了高质量样本进行补全(在整体全模态数据中占比 11%)。此外,为降低大规模评测带来的算力消耗,我们独创了聚类引导的分层抽样法。实验证明,该方法在保持模型排名高度一致性的前提下,成功将评测成本降低了超过 90%。

图 4:数据构建流程图(说明:左边为全模态数据构建流程与统计信息,右边为单模态数据压缩流程与统计信息)

2.4 评测创新:多步开放式问题与通用评分模型

图 5:多步开放式问题(MO)构建示例

为了打破传统选择题无法有效评估复杂推理的局限,引入了创新的多步开放式问题(MO,Multi-step Open-ended question)。这种题型将一个复杂的长链条推理任务,拆解为多个相互依赖、层层递进的子问题,并要求模型对每一步都给出开放式的文本答案。

评分则由专家根据每一步的难度与重要性进行加权赋分(满分 10 分)。这种设计能够直观地揭示模型在多步推理中的能力衰减现象,从而精准地区分出模型的“浅层猜测”与“深度思考”,是衡量顶尖模型推理能力的关键指标,具体示例如图 5 所示。

图 6:通用评分模型训练流程图

图 7:通用评分模型的问题类型定义(说明:该图表展示了为提高评分准确率而定义的六种细分问题类型及其判断标准。)

为实现自动化评估,LongCat 团队还提出了一个通用评分模型,通过对问题类型进行细分(如图 7 所示),并结合人工和自动标注多轮质量迭代的数据集(如图 6 所示),使其能够支持 6 种通用问题类型的自动评分,在分布外的模型和基准测试中达到了 95%的准确率。

03. 实验与分析:揭示全模态大模型的真实能力与演进规律

LongCat 团队在 UNO-Bench 上对包括 Qwen、Baichuan、MiniCPM 以及 Gemini 系列在内的多款主流全模态大模型进行了全面评测。实验设计旨在回答三个核心问题:

  1. 当前全模态大模型的智能水平及其短板何在?
  2. 单模态与全模态能力之间存在何种关系?
  3. UNO-Bench 作为一站式评估方案的有效性如何?

3.1 模型性能的全面剖析

总体格局:闭源模型优势显著,开源模型仍在追赶

表格 2:各全模态大模型在 UNO-Bench 上的评测结果(说明:表格展示了各模型在单模态(音频、视觉)和全模态(选择题 Omni-MC、多步开放式题 Omni-MO)上的得分。)

如表格 2 所示,在本次评测的开源模型中,LongCat-Flash-Omni 表现出开源 SOTA(State-of-the-Art)的成绩。该模型在音频(80.20)、视觉(67.06)、全模态选择题(49.90)以及全模态开放题(42.68)四大核心维度上,全面超越了本次评测中的其他开源模型。

与此同时,以 Gemini 系列为代表的闭源模型在所有评测维度上,特别是在顶尖性能层面,依然保持着领先优势,其中 Gemini-2.5-Pro 稳居行业标杆。当面对难度更高的“多步开放式问题”(Omni-MO)时,所有模型的性能普遍下滑,这清晰地反映出,长链条、跨模态的深度推理依然是整个 AI 领域亟待攻克的难题。

能力拆解:推理是区隔强弱的核心维度

表格 3: 基于能力体系的跨模态表现分析

通过对感知与推理能力的细化分析(见表格 3),我们发现:

  • 感知层面,跨模态同步对齐比单纯的跨模态识别更具挑战。
  • 推理层面,空间推断是所有子任务中最难的一项,即使是表现最佳的 Gemini-2.5-Pro 得分也仅为 45 分。

综合来看,模型的感知能力相对较强,而真正的性能差距主要体现在推理能力上。以 Qwen-3-Omni-30B 与 Gemini-2.5-Pro 为例,两者在感知能力上相差 23 分,但在推理能力上的差距则拉大到 33 分,这表明:推理能力是划分模型强弱的关键分水岭。

顶尖梯队与人机对比剖析

LongCat 团队进一步对 Gemini-2.5-Pro 的卓越表现进行了剖析。一方面,这得益于其强大的单模态基础能力;另一方面,其内置的语音转写并自然融入推理链路的能力,是多数开源模型尚不具备的。

图 8:Gemini-2.5-Pro 评测过程示例(说明:该图展示了 Gemini-2.5-Pro 利用音频转录文本辅助解决问题的过程。)

图 9:人类专家与 Gemini-2.5-Pro 性能对比图

说明: Gemini-2.5-Pro 在感知能力上与人类相当,但在推理能力上仍有差距。

如图 9 所示,观察到一个有趣的现象:

  1. 感知能力媲美人类:在全模态的感知任务上,Gemini-2.5-Pro 的表现已能与人类专家相当。
  2. 推理能力仍存差距:然而,在更复杂的推理任务上,人类专家(81.3%)的表现依然优于 Gemini-2.5-Pro(74.3%)。这揭示了 AI 与人脑在抽象归纳和复杂逻辑处理能力上的本质区别。

3.2 全模态与单模态的内在关联

得益于 UNO-Bench 统一的能力体系与高质量数据,通过回归与消融实验,揭示了单、全模态能力间的深刻关系。

“组合定律”成立,且遵循幂律协同

我们对各模型的单、全模态得分进行了回归分析,发现了一个强关联性,并将其形式化为一个科学定律。

图 10:全模态能力的组合定律关系图

如图 10 所示,全模态的性能并非单模态能力的简单线性叠加,而是遵循一种乘积规律。通过严谨的数学推导和非线性拟合,得到了一个拟合度高达 97.59% 的幂律公式:

POmni ≈ 1.0332 · (PA × PV)^2.1918 + 0.2422

该幂律公式的指数大于 1,使得函数曲线呈现为一条加速上升的凸形。这完美地解释了两种现象的涌现:

  1. 短板效应 (Bottleneck Effect):对于能力较弱的模型,其全模态性能的增长相对平缓。
  2. 协同增益 (Synergistic Promotion):对于顶尖模型,单模态能力的增强会带来全模态性能的爆发式增长,实现了真正意义上的“1+1 >> 2”的多模态协同增益。

更重要的是,这个“组合定律”提供了一种全新的、跨越模型规模的分析范式。它允许研究人员将不同参数规模、不同架构的模型放置在同一个坐标系下进行比较,不再仅仅关注各自的绝对得分,而是通过它们在幂律曲线上的相对位置,来统一度量其“模态融合效率”。一个模型如果显著高于拟合曲线,则意味着其模态融合机制更为高效;反之,则可能存在融合瓶颈。这为评估和优化全模态大模型的内在融合能力,提供了一个极具价值的分析工具。

从图 10 的具体模型分布来看,其中参与拟合的模型由圆点表示,新增的 LongCat-Flash-Omni 模型表现较为突出。虽然 Gemini 系列的具体参数规模未知,但可以观测到 LongCat-Flash-Omni 的表现已非常接近 Gemini-2.5-Flash,并显著领先于 Qwen3-Omni-30B。其位置正处于曲线加速上升的“协同增益区”,且与理论拟合曲线高度吻合,这表明该模型展现出了高效的多模态融合能力。

消融实验验证

这再次印证了多通道互补与融合是通往更高智能的必经之路。

表格 4:视觉理解能力消融实验结果

表格 5:音频理解能力消融实验结果

LongCat 团队通过详尽的视觉与音频消融实验(具体数据参见表格 4、5)进一步验证了这些发现。实验表明,对于多数模型,提供文本描述(Caption/ASR)比直接处理原始视听信息能获得更好的效果,但顶尖模型如 Gemini-2.5-Pro 则能从原始信号中提取比文本更丰富的信息。

3.3 UNO-Bench 基准的有效性验证

除了核心的实验发现,UNO-Bench 作为一个评测基准本身的科学性和有效性,也通过以下几个方面得到了验证。

多步开放式问题的卓越区分度

表格 6:各模型在多步开放式问题(MO)上的表现

如表格 6 所示,创新的 MO 题型能够真实地刻画模型在长链条推理中的能力衰减,有效放大了模型间的认知鸿沟。

高效的数据集压缩算法

图 11:数据集压缩性能评估图

如图 11 所示,我们设计的聚类引导抽样法,能在保持模型排名一致性(SRCC/PLCC > 0.98)的前提下,将评测算力消耗降低超过 90%,实现了效率与准确性的平衡。

卓越的数据质量与区分度

一个评测基准的有效性,最终体现在其数据的质量和区分模型优劣的能力上。UNO-Bench 在这两方面都表现出色。

  • 首先,在数据质量上,如前文表格 1 所示,UNO-Bench 的全模态数据集问题准确率达到了 100%,且有高达 98%的问题被严格设计为必须跨模态才能解答,这确保了评测的公平性和对模型真实能力的有效检验。
  • 其次,在区分度上,UNO-Bench 的设计能够清晰地揭示不同模型间的性能梯度。

图 12:UNO-Bench 与其他全模态基准对比图

而在与其他全模态基准的直接对比中(如图 12 所示),UNO-Bench 的有效性也得到了进一步验证。它不仅通过更高的得分标准差(19.5 vs. 12.75)展现了比 OmniBench 更强的区分能力,还通过合理的难度设置,避免了像 AV-Odyssey 那样所有模型得分被压缩在狭窄低分区间的窘境。这确保了 UNO-Bench 既能有效评估当前模型,也为未来更强模型的涌现预留了足够的成长空间,是一个更可靠和富有洞察力的评测工具。

04. 总结与展望

本文提出了一站式全模态大模型评测基准——UNO-Bench。该基准通过科学的评测框架,首次揭示了多模态智能并非简单的线性叠加,而是遵循着一种乘积规律,这一规律在能力较弱的模型上体现为瓶颈限制,而在顶尖模型上则表现为协同增益的特性,这个全模态大模型的“组合定律”为行业提供了一种全新的、跨越模型规模的分析范式。LongCat 团队的评测结果进一步表明,以 Gemini 为代表的闭源模型在单模态及跨模态理解上仍远超主流开源阵营,其顶配版本虽在感知能力上已逼近人类专家,但在复杂的推理层面仍存在亟待突破的空间。而这些发现,正是得益于 UNO-Bench 自身的较高的数据质量与创新的评价机制,它有效扩展了模型表现的区分度,为新一代智能体的持续成长奠定了坚实基础。

面向未来,LongCat 团队将通过自动化人机共建流程持续扩充数据规模,引入 STEM、Code 等更具挑战性的场景,并深入探索模态间的互动关系,为下一代通用人工智能的发展开辟新路径。

开源资源