























💡 站外导读:当前数字人技术虽快速发展,但面临长时生成面部漂移、色彩失真及实时交互延迟等核心痛点。在AIGC浪潮下,电商直播、虚拟主播等应用对稳定、高保真的实时数字人需求激增。阿里巴巴联合多所高校开源的Live Avatar,旨在突破这些瓶颈,为行业提供可落地的解决方案。
Live Avatar 是阿里巴巴联合多所高校推出的实时数字人模型,能通过音视频驱动生成无限时长的数字人视频。Live Avatar 依托 140 亿参数扩散模型,实现 20FPS 的实时流式生成,支持长达 10000 秒以上稳定输出,避免长时生成中的面部漂移和色彩失真。可用在电商直播、新闻播报、虚拟助手等多种场景,提供高保真、低延迟的交互体验。
![]()
实时音视频驱动:通过麦克风和摄像头捕捉用户的语音和表情动作,驱动数字人进行口型、表情的同步响应,实现低延迟的面对面交互。
无限时长稳定生成:支持长达 10,000 秒以上的连续视频生成,过程中数字人的面容、肤色、风格等特征保持一致,避免长时生成中的身份漂移和画质下降。
高保真画质:基于 140 亿参数的扩散模型,生成细节丰富、清晰自然的数字人画面。
流式生成:采用流式处理技术,支持实时视频流的连续扩展,适用于直播等实时应用场景。
扩散模型优化:用 140 亿参数的扩散模型,通过 Distribution Matching Distillation(分布匹配蒸馏)技术,将多步双向扩散模型转化为高效的 4 步流式扩散模型,大幅提升生成速度。采用 Timestep-forcing Pipeline Parallelism(时间步强制流水线并行)技术,将去噪阶段解耦并分配到多个设备上,实现线性加速,支持大规模并行计算。
无限时长生成机制:
滚动 RoPE(Relative Positional Encoding):动态更新参考帧的相对位置编码,保持生成帧与参考帧的相对位置关系,避免身份漂移。
自适应注意力池(Adaptive Attention Sink):将初始参考帧替换为生成帧,消除导致分布漂移的持续因素,保持生成帧的分布一致性。
历史干扰机制:向 KV 缓存注入噪声,模拟推理中的误差,引导模型从历史帧中提取运动信息,从参考帧中提取稳定细节,避免误差积累。
实时交互技术:结合麦克风和摄像头输入,通过音频和视频信号实时驱动数字人模型,实现低延迟的交互响应。优化生成速度和延迟,达到 20FPS 的实时生成速度,首帧延迟仅 2.89 秒,确保流畅的交互体验。
电商直播:Live Avatar 能实现 7×24 小时不间断产品展示与讲解,降低人力成本,提升直播效率。
新闻播报:模型支持自动生成虚拟主播播报新闻,快速生成多语言视频,提高新闻时效性。
娱乐直播:虚拟偶像通过 Live Avatar 实时互动表演,举办线上演唱会等活动,增强观众参与感。
智能客服:数字人客服可实时回答用户问题,提供 24 小时不间断服务,提升用户体验。
银行柜员:虚拟金融顾问提供标准化业务咨询,辅助人工服务,提升银行运营效率。
Live Avatar的发布标志着数字人技术从‘演示可用’迈向‘生产就绪’的关键一步。其140亿参数模型与流式生成架构,结合滚动RoPE、自适应注意力池等创新,系统性解决了长时生成的身份漂移难题,这正是此前许多方案无法商用的核心障碍。20FPS的实时生成能力,使数字人真正具备了实时交互的可能,深度契合电商、客服等场景对即时响应的要求。阿里与高校的联合开源模式,不仅加速技术普惠,更可能催生新一轮数字人应用创新潮。从行业视角看,这预示着数字人正从‘高成本定制’走向‘标准化、实时化、无限时长’的新阶段,为元宇宙、AI Agent的落地提供了关键基础设施。
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。