惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

V2EX - 技术
V2EX - 技术
P
Privacy International News Feed
Security Latest
Security Latest
H
Hacker News: Front Page
T
Tenable Blog
The Hacker News
The Hacker News
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
S
Security @ Cisco Blogs
Project Zero
Project Zero
O
OpenAI News
AI
AI
Spread Privacy
Spread Privacy
C
CERT Recently Published Vulnerability Notes
The Last Watchdog
The Last Watchdog
G
GRAHAM CLULEY
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
Scott Helme
Scott Helme
Application and Cybersecurity Blog
Application and Cybersecurity Blog
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
C
CXSECURITY Database RSS Feed - CXSecurity.com
NISL@THU
NISL@THU
A
Arctic Wolf
T
Threat Research - Cisco Blogs
PCI Perspectives
PCI Perspectives
N
News and Events Feed by Topic
C
Cyber Attacks, Cyber Crime and Cyber Security
C
Cybersecurity and Infrastructure Security Agency CISA
Simon Willison's Weblog
Simon Willison's Weblog
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
Know Your Adversary
Know Your Adversary
Google Online Security Blog
Google Online Security Blog
罗磊的独立博客
L
LINUX DO - 最新话题
U
Unit 42
S
Security Affairs
有赞技术团队
有赞技术团队
WordPress大学
WordPress大学
博客园 - 【当耐特】
T
The Exploit Database - CXSecurity.com
S
Schneier on Security
月光博客
月光博客
Engineering at Meta
Engineering at Meta
腾讯CDC
F
Full Disclosure
Cyberwarzone
Cyberwarzone
S
SegmentFault 最新的问题
Recorded Future
Recorded Future
K
KPMG report finds enterprise disconnect between AI and its ROI | CIO
博客园 - 司徒正美
The Cloudflare Blog

月光博客

AI编程从零开始:环境配置到开发调试-月光博客 母亲被保健品诈骗-月光博客 向身体低头,向岁月妥协:我的高血压“还债日记” -月光博客 月光博客电子书:《信息安全指南》 谷歌发布2025年度搜索排行榜 中国2025社会热点大事记 2025年十大流行语发布 7天3次,骗子骗走我母亲95万元 “技术男”设三重安全墙,母亲95万存款还是被骗走了 电信诈骗后的复盘:母亲的95万元,是怎么从手机银行里消失的 母亲被电信诈骗95万元的全过程 阿根廷警察被谷歌街景相机拍到裸照 网信办开展“清朗·整治恶意挑动负面情绪问题”专项行动 翟欣欣敲诈勒索案一审获刑12年 《绝命毒师》影评:力工觉醒后的梭哈至死 用AI分析你的财务信息 腾讯子公司实习HR怒怼求职者后被开除 OpenAI发布最强模型GPT-5,免费向所有用户开放 用AI解构你的日记 用AI分析你的游戏偏好 用AI分析你的观影偏好 用AI分析你的听歌偏好 《白鹿原》人物分析:乱世浮沉中的人性剖析 乌托邦的捷径:让AI治理“失败国家” 苹果AI的“路径错误”:为什么它在大模型时代掉队了? 《暗黑破坏神3》第35赛季开荒指南 我对特朗普的看法 欧·亨利十大经典小说鉴赏 HBO电视剧《最后生还者》第二季影评 播客自动化更新分发教程 《围城》人物分析:知识分子的时代困局 NotebookLM音频概览支持中文 《暗黑破坏神3》国服回归 《暗黑破坏神3》国服赛季开荒指南 《网络数据安全管理条例》正式发布实施 契约之下的自由:社会契约论 如何去除文章的AI味道 电影《好东西》影评 我的价值观:义务论和效益论 《魔兽世界》正式服PVP教程 电影《哪吒2》影评 中医理论不是科学理论 DeepSeek与主流AI模型对比评测 TikTok停止在美国服务 我的三观(世界观、价值观、人生观) 《无限暖暖》游戏评测 2024年财经年度总结 月光博客2024年推荐阅读文章 IMDb公布2024年热门电影和电视剧 2024年十大流行语发布 谷歌发布2024年度搜索排行榜 中国2024社会热点大事记 Google Adsense税务居住地证明申请教程 极狐GitLab回应前员工实名举报公司高管:恶意诽谤造谣 升级FTTR千兆光纤带宽 字节跳动起诉前实习生索赔800万 看完历届奥斯卡最佳影片后的体验 李子柒已经正式改名并恢复更新 苹果历年新春短片 “姜萍事件”调查结果公布 胡锡进社交平台恢复更新 上海女子沙白自杀的伦理道德分析 京东与杨笠一起玩火 字节跳动大模型训练被实习生攻击,涉事者已被辞退 《加勒比海盗》系列电影 《夺宝奇兵》系列电影时间线 《侏罗纪公园》系列电影时间线 《终结者》系列电影时间线 华为禁止用户从外部手动安装安卓应用(APK文件) 《炉石传说》国服回归一片混乱 官媒辟谣苹果手机被远程引爆 小米回应摄像头里出现陌生男子说话 环球人物:民族大义不是流量密码,盲目排外没有土壤 《异形》系列电影时间线 看完IMDb250后的体验 暴雪《炉石传说》国服开启预约 网易DD参与代打《魔兽世界》事件的深入分析 福建男子四年前“翻墙”浏览境外网站被行政处罚 《魔兽世界》正式服开服两周游戏体验 暴雪游戏足迹查询:查看暴雪游戏的数据 用AI分析你的推特社交网络数据 胡锡进停更三个月 国家网络身份认证公共服务管理办法向社会公开征求意见 苹果将部分产能转回中国 Windows全球大范围蓝屏 电影《V字仇杀队》影评 微软中国员工禁用安卓手机:只能用iPhone 《魔兽世界》怀旧服“巫妖王之怒”游戏体验 百度旗下萝卜快跑已在多个城市开放载人测试 我为什么不喜欢华为这家企业 胡锡进:强烈谴责苏州袭击日本人的凶手 20美元在美国超市的购买力 华为紧急辟谣“是国内最大的牛肉进口商” 苹果公司公布2024年Apple设计大奖获奖名单 自动生成电影剧本:人工智能技术的崭新里程碑 电影《芳华》人物分析 Steam账号被盗号的解决方法 中文互联网内容正在逐步消失 马斯克:推特域名已全部转移到X 微软中国区AI团队拟迁移出国
《人工智能生成合成内容标识办法》正式施行
投稿 · 2025-09-01 · via 月光博客

国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局四部门联合发布的《人工智能生成合成内容标识办法》(以下简称《办法》),自9月1日起正式施行。《办法》明确所有AI生成的文字、图片、视频等内容都要“亮明身份”。

《办法》明确,人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。平台在服务提供者的内容上架或上线时要进行审核,核验生成合成内容标识,对未标识或疑似生成内容要添加风险提示,从而在传播端阻断虚假信息扩散。

人工智能生成合成内容标识分“显式标识”和“隐式标识”两种。

显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。

隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。“隐式标识更像指纹,所有生成合成内容需在文件元数据中添加。一旦有问题,技术一查就能找到痕迹。”智能感知与控制四川省重点实验室副主任吴浩说,两种标识形成“显式告知用户、隐式支撑监管”的双重保障体系。

多平台推出细化规则

据整理发现,包括腾讯、抖音、快手、B站、DeepSeek等平台均对上述《办法》出台细化规则。

9月1日,抖音发布《关于升级AI内容标识功能的公告》,进一步规范平台上的AI内容创作与传播。《公告》显示,抖音已上线两项核心功能:一是AI内容标识功能,协助创作者为AI内容添加提示标识,方便用户辨别;二是AI内容元数据标识读写功能,可识别并写入AI内容的元数据信息,为内容溯源提供技术支撑。

若创作者未主动添加标识,抖音将辅助添加标识说明。一方面,平台会运用技术手段检测疑似使用AIGC技术生成的内容,并为其添加“疑似使用了AI生成技术,请谨慎甄别”的标识。另一方面,根据相关规定,AIGC技术服务提供者在生成AI内容时,需在元数据中添加隐式标识。当创作者在抖音发布此类内容时,如抖音核验出内容元数据中的隐式标识信息,将在作品页面添加“作品含AI生成内容”的标识。

8月31日,腾讯发布公告称,据《人工智能生成合成内容标识办法》要求,平台应对AI生成合成内容添加显式标识和隐式标识。为保障用户信息获取的透明度与可信度,平台进一步优化内容识别能力。用户通过平台获取的AI生成合成内容,可能带有显式标识或隐式标识。平台也会对可能是AI生成合成的内容进行相应提示,以便用户清晰辨识。

依据《人工智能生成合成内容标识办法》规定,用户在发布或传播AI生成合成内容时,不得以任何方式删除、篡改、伪造或隐匿平台添加的AI标识。同时不得利用AI技术制作传播虚假信息、侵权信息以及从事任何违法违规活动。对于违反法律法规及平台规范的行为,平台将视违规情况进行处罚。

8月29日,据B站公告,在行业主管部门指导下,不断升级完善站内AI相关的内容治理水平和管控能力,积极落实《人工智能生成合成内容标识办法》各项要求,推出AI生成合成内容标识功能,帮助大家更便捷地区分内容是否涉及AI生成。

B站站内已在投稿侧提供标识选项,UP主可以在运用AI技术产出优质内容的同时快捷进行自主声明。站内在投稿时,可通过发布界面点击【创作声明】选择【该视频使用人工智能合成技术】添加标识。站内会对于未主动声明的AI生成合成内容,依据法律法规要求,按照社区规则添加标识,用户不得恶意篡改、隐匿相关标识。下一步,站内将持续落实标识相关工作,优化AI治理链路,营造健康有序的网络环境。

快手公告称,已上线人工智能生成合成内容标识和用户主动声明功能:首先会在平台AI生成的内容中添加“AI生成”显式标识、以及嵌入文件元数据中的隐式标识;其次,在发布或传播明确由AI生成的内容或被平台检测为疑似AI的内容时,会在内容周边进行显著提示。

快手方面表示,平台鼓励创作者按照国家法律规定和平台规则,准确、规范标注AI内容。同时不得恶意删除、篡改、伪造、隐匿平台已标注的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。对于违反国家法律规定及平台相关规则的作品,以及恶意标注等违规行为,平台将按照社区规则进行处置。

9月1日,DeepSeek公告称,为贯彻落实《人工智能生成合成内容标识办法》(2025年9月1日起施行)及《网络安全技术人工智能生成合成内容标识方法》等国家标准的相关要求,防止AI生成内容可能引发的公众混淆、误认以及信息失实的风险,DeepSeek已在平台内对AI生成合成内容添加标识,并明确提醒用户相关内容由AI生成。用户不得恶意删除、篡改、伪造、隐匿此类生成内容标识,不得利用AI制作、传播虚假信息、侵权信息以及从事任何违法违规活动。

同时已发布《模型原理与训练方法说明》,对模型的基本原理、训练数据及内容生成机制予以说明,以帮助用户更全面地理解AI技术、合理使用 DeepSeek相关服务,切实保障用户的知情权和控制权,防范因误用或不当使用可能带来的各类风险。

专家解析:推动生成式人工智能的良性发展

《办法》的实施,会对行业、个人用户,以及相关技术发展带来哪些影响?

四川省委网信办相关负责人表示,强制“标识”能在保障安全与促进发展之间取得平衡。压实开发者、提供者和平台的主体责任,通过治理和规范去净化网络空间环境。

对行业而言,《办法》的实施,对人工智能企业选择相应的训练数据能起到很好的指引作用。吴浩解释,有隐式标识后,企业能更便捷地筛选高质量的数据进行模型训练,提升技术可信度,推动生成式人工智能的良性发展。

北京大成(成都)律师事务所律师陶雪汶认为,强制“标识”可有效遏制低质量、重复性生成合成内容的传播,维护平台内容原创性与公平性,为优质内容创作营造良好环境。另外,能减少因AI生成内容引发的侵权、诈骗等问题。

(来源:上观新闻)

以下为《人工智能生成合成内容标识办法》的通知原文:

人工智能生成合成内容标识办法

第一条 为了促进人工智能健康发展,规范人工智能生成合成内容标识,保护公民、法人和其他组织合法权益,维护社会公共利益,根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章,制定本办法。

第二条 符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者(以下简称“服务提供者”)开展人工智能生成合成内容标识活动,适用本办法。

第三条 人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。

人工智能生成合成内容标识包括显式标识和隐式标识。

显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。

隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。

第四条 服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照下列要求对生成合成内容添加显式标识:

(一)在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识,或者在交互场景界面、文字周边添加显著的提示标识;

(二)在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识,或者在交互场景界面中添加显著的提示标识;

(三)在图片的适当位置添加显著的提示标识;

(四)在视频起始画面和视频播放周边的适当位置添加显著的提示标识,可以在视频末尾和中间适当位置添加显著的提示标识;

(五)呈现虚拟场景时,在起始画面的适当位置添加显著的提示标识,可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识;

(六)其他生成合成服务场景根据自身应用特点添加显著的提示标识。

服务提供者提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识。

第五条 服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定,在生成合成内容的文件元数据中添加隐式标识,隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。

文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息,用于记录文件来源、属性、用途等信息内容。

第六条 提供网络信息内容传播服务的服务提供者应当采取下列措施,规范生成合成内容传播活动:

(一)核验文件元数据中是否含有隐式标识,文件元数据明确标明为生成合成内容的,采取适当方式在发布内容周边添加显著的提示标识,明确提醒公众该内容属于生成合成内容;

(二)文件元数据中未核验到隐式标识,但用户声明为生成合成内容的,采取适当方式在发布内容周边添加显著的提示标识,提醒公众该内容可能为生成合成内容;

(三)文件元数据中未核验到隐式标识,用户也未声明为生成合成内容,但提供网络信息内容传播服务的服务提供者检测到显式标识或者其他生成合成痕迹的,识别为疑似生成合成内容,采取适当方式在发布内容周边添加显著的提示标识,提醒公众该内容疑似生成合成内容;

(四)提供必要的标识功能,并提醒用户主动声明发布内容中是否包含生成合成内容。

有前款第一项至第三项情形的,应当在文件元数据中添加生成合成内容属性信息、传播平台名称或者编码、内容编号等传播要素信息。

第七条 互联网应用程序分发平台在应用程序上架或者上线审核时,应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的,互联网应用程序分发平台应当核验其生成合成内容标识相关材料。

第八条 服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容,并提示用户仔细阅读并理解相关的标识管理要求。

第九条 用户申请服务提供者提供没有添加显式标识的生成合成内容的,服务提供者可以在通过用户协议明确用户的标识义务和使用责任后,提供不含显式标识的生成合成内容,并依法留存提供对象信息等相关日志不少于六个月。

第十条 用户使用网络信息内容传播服务发布生成合成内容的,应当主动声明并使用服务提供者提供的标识功能进行标识。

任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。

第十一条 服务提供者开展标识活动的,还应当符合相关法律、行政法规、部门规章和强制性国家标准的要求。

第十二条 服务提供者在履行算法备案、安全评估等手续时,应当按照本办法提供生成合成内容标识相关材料,并加强标识信息共享,为防范打击相关违法犯罪活动提供支持和帮助。

第十三条 违反本办法规定的,由网信、电信、公安和广播电视等有关主管部门依据职责,按照有关法律、行政法规、部门规章的规定予以处理。

第十四条 本办法自2025年9月1日起施行。

《人工智能生成合成内容标识办法》正式施行