惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

J
Java Code Geeks
月光博客
月光博客
aimingoo的专栏
aimingoo的专栏
Google DeepMind News
Google DeepMind News
Recent Announcements
Recent Announcements
MyScale Blog
MyScale Blog
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
S
SegmentFault 最新的问题
Hugging Face - Blog
Hugging Face - Blog
Martin Fowler
Martin Fowler
WordPress大学
WordPress大学
F
Fortinet All Blogs
小众软件
小众软件
D
Docker
U
Unit 42
博客园 - 聂微东
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
爱范儿
爱范儿
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
IT之家
IT之家
云风的 BLOG
云风的 BLOG
博客园 - 司徒正美
有赞技术团队
有赞技术团队
腾讯CDC

Prompt 语宙

kimi-thinking-preview – 月之暗面推出的多模态思考模型 pdf-craft – 开源 PDF 转 Markdown 工具 UltraMem – 字节豆包大模型团队推出的全新超稀疏模型架构 EasyControl – Tiamat AI 联合上海科大等开源的图像生成控制框架 GaussianCity – 南洋理工大学 S-Lab 团队推出的 3D 城市生成框架 X-Prompt – 用于多模态视频目标分割的通用框架 豆包大模型1.5 – 字节跳动推出的最新版大模型 GaussianAnything – 南洋理工 S-Lab 和上海 AI Lab 等推出的 3D 生成框架 Cube 3D – Roblox 推出的 AI 3D 生成模型 OpenMath-Nemotron – 英伟达开源的数学推理系列模型 MAI Transcribe-1.5 – 微软 MAI 推出的语音转文本模型 Seed1.5-Embedding – 字节跳动 Seed 团队推出的向量模型 2026世界杯人机大战引爆!联想携手DeepSeek等顶尖AI大模型,对战亿万球迷预测冠军 高考公平守护战!豆包、文心等主流大模型集体禁用拍题功能 ShotAdapter – Adobe联合UIUC推出的多镜头视频生成框架 Devstral – Mistral AI联合All Hands AI开源的编程专用AI模型 MMaDA – 字节联合普林斯顿大学等推出的多模态扩散模型 Software Copyright Materials Skill – 开源软著资料生成Skill Dulus – 开源的 CLI AI Agent,可驱动多模型工具调用 Reasonix – 专为 DeepSeek 推出的开源终端编程 Agent Mega-ASR – NTU、NUS、上海AI Lab开源的语音识别模型 CodeGraph – 开源代码知识图谱工具,加速代码理解和分析 MiniCPM5-1B – 面壁智能联合清华开源的端侧文本基座模型 Horizon – 开源 AI 信息聚合系统,构建专属新闻雷达 BitCPM-CANN – 面壁智能联合清华开源的端侧大模型 Xiaomi Auto World Model – 小米推出的辅助驾驶世界模型 opera-browser-cli – Opera Neon 开源的命令行工具 omp – 开源的 AI 终端编程智能体,能与 IDE 深度联动 Claude Opus 4.8 – Anthropic 推出的旗舰级大语言模型 Hy-Memory – 腾讯混元推出的 Agent 记忆插件
智谱AI Kaleido开源框架:多主体视频生成突破一致性难题,附G...
站外新闻 · 2026-06-16 · via Prompt 语宙

💡 站外导读:在AIGC浪潮下,高质量视频生成需求激增,但多主体场景下的“角色一致性”与“背景干扰”始终是行业痛点。智谱AI开源的Kaleido框架,正是针对这一核心挑战的破局之作。它通过创新的数据管线与R-RoPE机制,首次在开源领域实现了多主体视频的精准解耦与稳定生成,标志着AIGC视频创作从单体展示向复杂叙事迈出了关键一步,为开发者提供了强大的底层工具。

Kaleido 是智谱AI开源的多主体视频生成框架,能解决多主体视频生成中的主体一致性与背景解耦问题。框架通过创新的数据构建管线和 R-RoPE(Reference Rotary Positional Encoding)机制,有效分离主体与背景信息,在多主体场景下保持主体特征一致性。Kaleido 在多主体视频生成中达到 SOTA 效果,为视频生成领域提供强大的开源方案,助力开发者实现高质量的多主体视频创作。

  • Kaleido是什么
  • Kaleido的主要功能
  • Kaleido的技术原理
  • Kaleido的项目地址
  • Kaleido的应用场景
      • 📝 站长洞察 (Editor’s Insight)

Kaleido

Kaleido的主要功能

  • 多主体一致性生成:框架能在视频中保持多个主体(如人物、物体等)的视觉一致性,在复杂场景和多人交互中能维持稳定的主体特征。

  • 背景解耦:框架能有效分离主体与背景信息,避免生成视频中出现参考图像中的无关背景细节,使主体在不同背景中具有更好的适应性。

  • 高质量视频生成:通过优化的数据构建和训练方法,生成高质量、高保真度的视频内容,适用多种应用场景,如广告、影视制作等。

  • 灵活的条件控制:框架支持通过多张参考图像和文本提示进行视频生成,为创作者提供更灵活的创作空间。

Kaleido的技术原理

  • 数据构建管线:Kaleido 采用创新的数据构建管线,解决多主体视频生成中的背景纠缠和主体一致性问题。管线通过跨配对数据合成(将不同实例的主体与背景组合)和背景修复技术,强迫模型在训练时解耦主体特征,避免简单复制参考图像中的背景信息。通过多阶段的数据增强(如主体定位、分割、质量过滤等),确保数据的多样性和高质量,提升模型在复杂场景下的生成能力。
  • R-RoPE(Reference Rotary Positional Encoding):为精确区分不同参考图像与视频 Token,Kaleido 引入 R-RoPE 机制。通过为参考图像的 Token 提供独立的旋转位置编码,显式地在注意力计算中确立不同主体与视频帧之间的边界。R-RoPE 通过空间位移确保参考图像 Token 在模型的时空嵌入空间中占据独特位置,有效避免多主体特征混淆,显著提升多主体生成的时空一致性。
  • 模型架构与条件注入:Kaleido 基于扩散模型和 Diffusion Transformer 架构,通过简单而高效的条件注入策略,将多张参考图像与视频生成过程结合。模型将参考图像 Token 与视频噪声表示沿序列维度拼接,同时用 R-RoPE 机制区分图像和视频信息。

Kaleido的项目地址

  • 项目官网:https://criliasmiller.github.io/Kaleido_Project/
  • GitHub仓库:https://github.com/zai-org/Kaleido
  • HuggingFace模型库:https://huggingface.co/zai-org/Kaleido-14B-S2V
  • arXiv技术论文:https://arxiv.org/pdf/2510.18573

Kaleido的应用场景

  • 影视制作:Kaleido 能根据角色的多张参考图生成高质量的动画视频,帮助动画师快速生成初步动画素材,提高制作效率。

  • 广告创意:通过多主体视频生成,Kaleido 能为广告创作者提供灵活的素材生成方案,快速生成包含多个产品或人物的广告视频。

  • 虚拟试穿:在电商领域,Kaleido 能生成用户试穿虚拟服装或佩戴虚拟饰品的视频,提升用户体验。

  • 虚拟角色互动:为虚拟主播或虚拟角色生成自然的互动视频,使其在直播、游戏等场景中表现出更丰富的动态效果。

  • 教育与培训:用在生成教学视频,例如通过多主体生成展示实验过程或多人协作场景,增强教学的直观性和趣味性。

📝 站长洞察 (Editor’s Insight)

Kaleido的发布,远不止一个新模型那么简单。它揭示了AIGC视频生成正从‘单体炫技’向‘多体叙事’的深水区迈进。智谱AI通过开源此框架,巧妙地将行业难题(多主体一致性)转化为社区共建的机遇,其技术路径——用高质量、解耦的数据强制模型学习‘纯粹’的主体特征,再通过R-RoPE在架构层面固化身份边界——极具启发性。这预示着未来视频生成模型的竞争,将更多地聚焦于数据工程与架构创新的结合。对于从业者而言,Kaleido不仅是工具,更是一个观察多主体生成技术演进的绝佳样本。其在影视预演、个性化广告、虚拟社交等场景的落地潜力,正推动AIGC从内容生产的‘辅助工具’向‘核心生产力引擎’加速转变。