惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Forbes - Security
Forbes - Security
A
Arctic Wolf
M
MIT News - Artificial intelligence
T
Threat Research - Cisco Blogs
T
The Exploit Database - CXSecurity.com
C
CERT Recently Published Vulnerability Notes
NISL@THU
NISL@THU
L
Lohrmann on Cybersecurity
Martin Fowler
Martin Fowler
A
About on SuperTechFans
P
Palo Alto Networks Blog
Project Zero
Project Zero
The GitHub Blog
The GitHub Blog
WordPress大学
WordPress大学
Blog — PlanetScale
Blog — PlanetScale
博客园_首页
大猫的无限游戏
大猫的无限游戏
Cisco Talos Blog
Cisco Talos Blog
P
Proofpoint News Feed
D
DataBreaches.Net
Cyberwarzone
Cyberwarzone
T
Tor Project blog
IT之家
IT之家
P
Proofpoint News Feed
Help Net Security
Help Net Security
S
Securelist
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
C
CXSECURITY Database RSS Feed - CXSecurity.com
Microsoft Azure Blog
Microsoft Azure Blog
V2EX - 技术
V2EX - 技术
K
Kaspersky official blog
Hugging Face - Blog
Hugging Face - Blog
MongoDB | Blog
MongoDB | Blog
B
Blog
N
News and Events Feed by Topic
The Cloudflare Blog
S
Schneier on Security
P
Privacy & Cybersecurity Law Blog
T
The Blog of Author Tim Ferriss
Recorded Future
Recorded Future
Last Week in AI
Last Week in AI
The Last Watchdog
The Last Watchdog
Hacker News - Newest:
Hacker News - Newest: "LLM"
L
LangChain Blog
I
InfoQ
F
Full Disclosure
The Register - Security
The Register - Security
阮一峰的网络日志
阮一峰的网络日志
H
Hacker News: Front Page
V
V2EX

博客园 - PetterLiu

OpenReel开源项目 OpenConnector 技术白皮书 汽车行业高效办公AI实践案例集 微软开源Flint语义驱动的图表项目 - PetterLiu 工业互联网零信任安全应用进展与挑战 - PetterLiu 开发思维导论:从大白话创意到AI全自动执行 - PetterLiu 从微服务到 Agent:我们到底在焦虑什么? Drain3与LogParser-LLM技术优劣势及适用场景对比 人机协作的工程化进化路线与落地案例 AI 站点可靠性工程 (SRE) Agent 苹果公司"中国+1"布局的逻辑重塑与风险对冲 训练 Agent 最怕什么?不是模型笨,是环境烂。 大语言模型自我验证机制与环境鲁棒性前沿技术研究报告 全球软件产业智能化范式转移与商业价值重构研究报告 基于AJ-Bench智能体自我验证场景案 物业行业 AI 落地避坑指南 AI 驱动的视频内容自动化创作框架ShortGPT 2026年6月份个人回顾 Skill不是长Prompt:如何写出工业级 Skill AI 驱动下的上下文治理与管理范式革命 为什么 FDE 正在成为商业落地的唯一解药 《不懂人性,就别做管理》:软件研发管理的核心洞察解读 四周实现非母语教学APP Agent Mail 产品介绍与 Trae Solo Agent 实测 AI时代团队效能的非线性陷阱与组织重构升级 AI落地三大误区与组织提效路径 AI工程化人才的角色演变与组织冲击 揭秘AI搜索时代的"GEO全链路技能库" AI领域值得关注的人与机构 MAICC 如何让 AI 团队在瞬间学会完美协作 去AI味十大Agent skill 六个视频类Agent Skills 工业级 AI Skill 构建指南 FDE-AI落地时代的“最后公里”解决者 Book to skill 将书籍蒸馏为skill 深度学习论文精读方法论 每个科研新人都该读的经典短文How to Read a Paper 从DeepSeek-Agent Harness研发员岗位看齐 小米XiaoMiTTS-Local-Skill 某大厂AI应用开发面试题 钉钉无招管理风格与企业文化 Antigravity Agent Skills Antigravity 2.0智能体 如何用 Codex 建立行业认知框架 Qwen3.7-Plus新一代多模态智能体核心突破 训练小模型2026 年最被低估的 AI 技能 打工人必装的12个 Skills 儿童古诗词绘本AIGC 豆包-编程优点与缺点 mimo2codex实现 codex+xiaomi mimo模型 研发自动驾驶的冷思考 AI重构媒体行业 Salesforce Headless 360 架构变革--Agent 时代的系统交互范式重构 怎么把一个想法拆给 AI? AI时代的高效研发协同体系:从“即时规划”到“左移验证”的范式转移白皮书 Agency-agents开源项目介绍 Anthropic官方Claude for Financial Services介绍 FeedSpot上订阅英语口语Podcast 如何成为任何领域的前 1% OpenAI 与Anthropic 开放公共学习平台 AI时代的学习策略与元能力培养 NotebookLM书籍转化为行动计划 CodeWiki代码解读工程 20 个 NotebookLM 提示词--帮助你更快学习 5个文件夹让Claude Code变身完整开发团队 AI应用-看图学英语单词手账 产品经理的AI副驾驶 泡泡玛特LABUBU冰箱的炒作现象经济学解读 8个Claude Code刚需高阶Skills 经济学原理分析2025年底计算机内存事件 小米MiMo-V2.5系列模型开源 回顾生成式AI的Skill AIGC大字海报 2026年4月发布的五款(LLM)架构 小米XiaoMiTTS-Local-Skill 2026年4月23日榴莲价格行情经济学原理分析 RAG技术落地核心要点 开源的 Agent Skills项目 AIGC=制作的 3x3 网格拼贴肖像 Chrome解锁“上帝模式”:免费AI+垂直标签,搞钱效率直接翻倍 n8n skills 灵感获取方法 Qwen Code免费额度到期后变更策略 Claude Code的Agent系统设计模式 AI时代个人竞争力的重构:从全科知识到异质性判断力 企业大模型LLM编程SDD方法落地方案 MemPalace 开源的本地 AI 记忆系统 QwenCode小试牛刀 行业中大佬的的知识管理方法 Graphify的AI编码助手 Trae国际版中代码审查功能初试 Trae国际版本中对话历史查询 Claude Code的源码泄露 Token是什么 GEO的场景与落地 代码工程文档生成:从代码到战略蓝图的 AI 化实践 智能体组织研发范式变革 关于企业群消息爆炸案例分析 AI + WMS:从自动化迈向自主智能仓储 2500路门店视频监控服务器配置 AI智能体时代财务人员的职业转型与组织变革
长视频如何实现信息压缩与细节
PetterLiu · 2026-07-09 · via 博客园 - PetterLiu

视频生成的"超强记忆术":揭秘长视频如何实现信息压缩与细节还原

3d4330f728a341caacdc9e2222f9c7ab.jpeg~tplv-a9rns2rl98-image_raw

1. 引言:视频生成的"健忘症"挑战

AI 视频生成有个根本问题:模型记不住东西。想象一下,让你同时记住 1000 张照片里每个细节,在第 1001 张时还能完全还原第一张的内容,窗台上的花盆纹路、地毯的颜色分毫不差,这根本做不到。

计算机也一样。不管理记忆,每多一帧计算量就爆炸。结果就是模型出现"健忘症":镜头切走再回来,盆栽没了,街道变样了。

本文以 Wanx-2.1-1.3B(万象)模型为例,讲讲视频生成模型怎么通过"记忆压缩"在低算力下实现长视频的时空连贯。

image

2. 核心逻辑:从 1000 帧到 20 个核心点

存原始数据不现实。Wanx-2.1-1.3B 的做法是:不管历史多长(超过 1000 帧也行),都压成 20 个核心信息点(Latents)。

1000+ 帧压成 20 个 Latents,这个比例是算过账的。Wanx 基础模型在标准文生视频模式下,每一步本来就只能生成 20 个 Latents。历史记忆也压到 20 个,拼接后计算量只增加 2 倍左右。不会随帧数无限增长。

3. 技术深挖:双层压缩怎么运作

靠的是"双层下采样"。总时间轴下采样率 16 倍,平衡计算量和画质。

原始方案 (Naive Self-Attention) vs 双层压缩方案 (Double-Layer):

- 计算量增长:原始方案随历史长度快速增长,容易爆炸;双层方案增长缓慢,维持在 2 倍左右

- 时间分辨率:原始方案全部 1000 帧参与计算;双层方案压成 20 个核心 Latents

- 记忆能力:原始方案只有短期记忆;双层方案能撑 1000+ 帧场景

关于 VAE 对齐

压缩时空间维度(H 和 W)不变,只在时间维度下采样两次(每次 4 倍,共 16 倍)。

这个 4 倍时间下采样率对齐了 Wanx 原有 VAE 在时序维度的压缩比,特征提取能保持一致。

没压缩 H 和 W 是为了保画质。实验发现空间维度压缩对效果影响不大,所以目前的策略是优先保住空间细节,压力全给时间维度。

4. 训练方法:用"回环数据"激活记忆

有了压缩结构还不够,得通过"回环视频数据"(RDD, Recurrent Video Data)来训练模型还原记忆的能力。

研究人员拍了 30 分钟的回环场景:拍摄者在街上游走,每隔几秒做一次 360 度旋转,回到之前拍过的片段。

30 分钟数据就够用了。训练中用了不确定性估计(Uncertainty Estimation),帮模型区分哪些是确定的历史背景,哪些是干扰。

回环微调后,模型有了三个能力:

1. 空间重建:物体完全切出画面,模型也能按记忆在原位重建。

2. 动作响应:对控制指令(比如键盘操作)的反应更快。

3. 确定性提取:用不确定性估计过滤冗余信息,只留关键线索。

5. 实际效果

"盆栽案例":镜头在房间里大范围移动后完全切走,几十秒后再回来,盆栽的纹理和位置还能对上,没塌。

用户盲测中,这个模型在长程一致性上比混元 (Hunyuan) 和 Matrix Game 更满意。

目前的局限

- 色彩漂移:没做 DMT 蒸馏加速,视频越长越可能出现色彩偏差。

- 数据采集:高质量 RDD 回环数据还是靠人工拍,没法完全自动化量产。

- 评测标准:行业里缺评估长程视频能力的自动 Benchmark,现在主要靠用户盲测。

6. 总结

压缩是为了更高效的提取,不是丢信息。双层下采样把历史对齐到 20 个 Latents,加上 RDD 回环微调,视频生成模型从"短期记忆"走向"长效环境感知"。

这套思路不光能用于视频,自动驾驶、虚拟现实这些需要长期环境认知的场景也能用。

核心要点:

- 20 Latents 预算:强制对齐基础模型生成规模,长视频计算开销控制在 2 倍

- 16x 时间压缩:双层 4x 下采样对齐 VAE 结构

- RDD 微调与不确定性估计:30 分钟数据就能激活空间重建和噪音过滤能力

page_0011page_0001page_0002page_0003page_0004page_0005page_0006page_0007page_0008page_0009page_0010