当AI换脸诈骗案激增、AI生成内容充斥购物节时，中央网信办推出的短视频标注新规正面临严峻挑战。从数字人主播到伪造的“专家”推荐，AI造假成本趋近于零，而用户对标注内容的抵触与平台审核的边界模糊，让这场关于真实与虚假的博弈愈发复杂。本文将深度剖析标注制度背后的技术治理困境与认知主权争夺。

最近刷到很多6·18的直播和视频：西装革履的“权威专家”侃侃而谈保健品功效，明星声情并茂地推荐“回到18岁”的美容产品……连续刷到多次此类视频后，难免会产生“不买吃大亏”的感觉。

但是，这些都是真的吗？

在AI内容浓度越来越高的购物节，你可能看了一下午，都没遇到一个真人。所谓的“专家”是AI换脸合成的，那张明星脸也是AI生成的，那个清仓甩卖的“工厂老板”甚至只是一个用文本驱动嘴型、AI配音的数字人。

普通人的分辨能力已经越来越难应付日益能耐的AI——画面太流畅，表情太自然，根本看不出破绽。

近日，中央网信办全面部署推进短视频内容规范标注工作，在抖音、快手、腾讯等12家平台先行先试的基础上，将内容标注设为短视频发布的硬性前置流程，明确平台必须提供6类“必选标签”，包括“含有AI生成内容”“含有虚构演绎内容”“含有营销信息”“内容为转载”“内容为个人观点”和“无需标注”，发布者必须从“必选标签”中选择一项才能发布，过往发布的存量视频也要逐一补标。

图源：百家号

中央网信办想解决的核心问题是：让你知道你看到的东西是AI做的。

今年上半年，AI换脸诈骗案同比大幅上升，一台电脑、一套免费工具，几分钟就能换脸、复刻声音、合成视频，造假成本趋近于零。福建一位企业主，10分钟被AI换脸的“好友”骗走430万元。在6·18期间，多地市场监管部门专门发布消费提示，提醒消费者“警惕AI造假”。

AI造假不止发生在视频里，图文内容同样是重灾区。就在5月上旬，全国首例AI代写“种草笔记”案宣判，法院认定这类AI工具的运营者构成不正当竞争，判赔10万元。

对于创作者和平台来说，标注已成为一种义务。但另一边，网上“AI去水印”“无痕除标识”的生意依然红红火火，几十元的基础工具、上千元的定制服务，明码标价——“合规者在照做，违规者在绕过”，平台的标注随手可破。

另外一个问题是，用户“对AI脸生理性厌恶”，有媒体报道，一项基于数百名用户参与的研究发现，标注为“AI生成”的内容，用户的行为参与度会断崖式下跌14到16个百分点。

行业数据也在印证这一趋势，2026年第一季度，国产微短剧产量中，AI生成短剧占95%，但真人短剧虽只占5%，总播放量却是AI的约25倍。

这意味着在消费端，用户对AI内容正在产生本能的抵触。生产端在拼命用AI“印刷”，消费端在用手指“划走”。

到底什么样的内容才算“AI生成”？

如果一段视频只是用了AI辅助翻译字幕，算不算？如果只是用AI调了个色，算不算？在电商场景里，商家用AI生成口播稿、用AI做客服，这些算不算需要标注的“AI生成”？

一般而言，只有视频画面、人物、语音由AI合成创作，也就是使用AI换脸、AI配音、AI生成虚拟人物或视频本身由AI从零创建的内容，必须打上“AI生成”标签。AI辅助翻译字幕、AI调色这类后期辅助工具，并不在强制标注范围内。

但在实际操作中，边界并没有那么清晰。一段视频可能用AI做了部分处理，也可能完全由AI生成，模糊地带很多。平台不仅要核验用户是否主动标注，还要用算法自动识别那些漏标的内容。但算法的判断并不一定准确。此前北京互联网法院就有一个判例，平台仅靠算法判定某用户内容为“AI生成”并对其隐藏内容并禁言1天，结果被法院认定缺乏事实基础、构成违约。

随着短视频内容规范标注工作的推进，平台加大审核力度，这类“误伤”的情况可能会更多，谁来界定边界、如何保证判定公平，仍是一个需要持续关注的问题。

回到最初的问题：一个标签，能拦住什么？

图源：视频号

那位被AI换脸骗走430万的郭先生，视频开头如果有个“AI生成”标签，他还会转账吗？显然不会。诈骗分子压根不会让他看到标签。

似乎“AI生成”的标签，只防君子，不防小人，拦不住蓄意诈骗的人，也拦不住AI内容总量的增长，6·18的商家绝不会因为要贴标签就不做AI直播了。

“标签”真正能做的，是为每个普通用户多争取一些思考时间。看到一个视频，先看标签，再判断内容；涉及转账的，打电话确认；看到一个感人故事想转发之前，先想想它是不是AI编的。

在AI造的内容越来越多、真假边界愈发模糊的时代，防线的最后一米，不在那个“标”签上，仍在每个人自己手里。