惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

MyScale Blog
MyScale Blog
F
Fortinet All Blogs
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
D
Docker
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
爱范儿
爱范儿
V
Visual Studio Blog
Last Week in AI
Last Week in AI
WordPress大学
WordPress大学
aimingoo的专栏
aimingoo的专栏
小众软件
小众软件
L
LangChain Blog
Vercel News
Vercel News
阮一峰的网络日志
阮一峰的网络日志
IT之家
IT之家
P
Proofpoint News Feed
博客园_首页
D
DataBreaches.Net
T
The Blog of Author Tim Ferriss
The GitHub Blog
The GitHub Blog
酷 壳 – CoolShell
酷 壳 – CoolShell
C
Check Point Blog
Engineering at Meta
Engineering at Meta
Microsoft Azure Blog
Microsoft Azure Blog

Hacker News: Best

madhadron - The seven programming ur-languages GitHub - smol-machines/smolvm: Tool to build & run portable, lightweight, self-contained virtual machines. I Measured Claude 4.7's New Tokenizer. Here's What It Costs You. Introducing Claude Design by Anthropic Labs It Is Time to Ban the Sale of Precise Geolocation The creative software industry has declared war on Adobe Isaac Asimov: The Last Question Newly unsealed records reveal Amazon’s price-fixing tactics, California attorney general claims Clojure - Documentary Android CLI and skills: Build Android apps 3x faster using any agent Qwen3.6-35B-A3B on my laptop drew me a better pelican than Claude Opus 4.7 Codex:全能型助手 Introducing Claude Opus 4.7 Qwen Studio The Future of Everything is Lies, I Guess: Where Do We Go From Here? Virginia Bans Sale of Geolocation Data YouTube now lets you turn off Shorts Burgers | マクドナルド公式 ChatGPT for Excel Ask HN: Who is using OpenClaw? Live Nation illegally monopolized ticketing market, jury finds Google Broke Its Promise to Me. Now ICE Has My Data. Open Source Isn't Dead. The Future of Everything is Lies, I Guess: New Jobs Unexpected €54k billing spike in 13 hours: Firebase browser key without API restrictions used for Gemini requests IPv6 – Google Your Backpack Got Worse On Purpose Good sleep, good learning, good life Fixing a 20-year-old bug in Enlightenment E16. Does Gas Town 'steal' usage from users' LLM credits & paid services to improve itself?
推进内容溯源,构建更安全、更透明的 AI 生态
2026-05-19 · via Hacker News: Best

2026 年 7 月 31 日更新: 我们正将此项工作拓展至图像领域之外。现在,使用 OpenAI 工具(包括通过 ChatGPT 和 OpenAI API)生成的受支持音频,均已加入 SynthID 水印。我们的公开验证工具现在除了支持图像外,还允许对受支持的音频文件进行验证。此外,我们推出了用于验证的 API 访问权限,以便开发者和组织能够将内容溯源 (provenance check) 整合到各自的工作流中。总体而言,这些更新建立在下文详述的多层架构策略之上:通过结合 C2PA 等开放标准、SynthID 等持久的水印信号以及验证工具,让内容溯源在更多类型的 OpenAI 生成内容中变得易于检测和应用。

如今,人们每天都在使用 OpenAI 的工具来创作和编辑图像与音频,让日常沟通变得更具表现力、更实用、更触手可及。随着这些工具融入人们构建、想象和分享的方方面面,使用户能够理解并验证媒介的来源变得至关重要,这能让他们在解读信息时更有信心。内容溯源特征可以通过提供上下文,帮助人们了解内容的来源、创建或编辑的方式,以及它是否可信。

今天,我们正在通过一种多层级、生态驱动的模型来强化我们的内容溯源方案,以构建网络信任。我们正在通过遵循 C2PA 标准,让其他工具和平台更容易识别我们的溯源特征;通过与 Google 合作,为图像添加更具韧性、跨平台的 SynthID 数字水印;并向公众分享一款工具的预览版,供大家验证图片是否出自 OpenAI。

这些更新建立在我们此前工作的基础上:支持开放标准、让 OpenAI 生成的内容更容易被识别,并开展跨行业合作,以支持一个更具公信力的信息生态系统。

通过 C2PA 合规构建可信生态系统

自 2024 年起,OpenAI 就已深入参与溯源标准的制定与普及。彼时,我们开始为 DALL·E 3(在新窗口中打开) 生成的图像添加内容凭证 (Content Credential),随后又将其扩展至 ImageGen(在新窗口中打开)Sora(在新窗口中打开)。同时,我们也加入了内容溯源和真实性联盟 (C2PA) 的指导委员会,该联盟是一个推动内容溯源开放技术标准落地的跨行业组织。C2PA 的技术方案利用元数据和加密签名,确保关于某项媒介的信息能够安全地随内容本身一同传输。这些信息包含丰富的上下文,能够协助新闻工作者评估素材来源、帮助平台方做出合规决策,并让大众更清晰地理解他们在线上看到的内容。

多层级溯源方案:引入 Google SynthID 图像水印

C2PA 元数据是内容溯源的重要基石。它能帮助内容自带关于其来源、创建或编辑方式以及信息签名方的关键数据。然而,元数据并非万无一失。它可能会被移除,在上传和下载过程中丢失,或者因文件格式转换、尺寸调整及截图等操作而遭到破坏。

我们在这一领域已深耕许久。此前,我们已在 Sora 中使用可见水印,在 Voice Engine 中应用音频水印,并在部署过程中持续对准确性和可靠性进行测试与研究。

这两套系统相辅相成、互为表里。C2PA 有助于内容携带详尽的上下文信息;而当元数据未能留存时,SynthID 则能确保溯源特征依然存在。数字水印在经历截图等图像转换时往往更具耐受性,而元数据则能比单纯的水印提供更丰富的信息流。二者结合,使内容溯源方案比任何单一层级都更加坚韧。

特征检测与公众验证工具预览

即使有了值得信赖的元数据和能抵御绝大多数修改的数字水印,内容溯源特征的耐受性大幅提升,人们依然需要一种手段来检测这些特征。为此,我们现在推出一款公共验证工具的预览版。该工具通过检查上传的图片中是否包含内容凭证及 SynthID 等内容溯源特征,来帮助人们验证该图片是否由 ChatGPT、OpenAI API 或 Codex 生成。

我们认为,内容溯源应当变得更易于大众验证和解读。通过整合多源特征,我们的工具能够协助每个人解答“改内容是否由 AI 生成?”这一问题。该工具承袭了我们在 2024 年首次推出图像检测分类器研究预览版时所积累的经验,使用户不仅能够可靠地检测媒介中是否存在源自 OpenAI 的 SynthID 水印,还能在发现 C2PA 元数据时将其清晰地呈现出来。

OpenAI 网页展示了一张上传图片的验证结果,通过检测到的 SynthID 和内容凭证特征,确证该图片是由 OpenAI 工具生成的。

没有任何一种检测方法是万无一失的,因此在检测不到特征时,我们采取了审慎的态度。例如,如果系统未检测到任何元数据或水印,该工具不会对图片是否由 OpenAI 工具生成做出定性结论,因为内容溯源特征在某些情况下确实存在被清除的可能。

在发布初期,该工具的检测范围仅限于 OpenAI 生成的内容。在接下来的几个月中,我们的目标是支持跨行业的共同努力,以实现跨平台的内容验证。随着时间的推移,我们还期望支持更多人们在网络上可能接触到的内容类型。

展望未来

没有任何单一的内容溯源技术能够孤军奋战。我们坚信,最强有力的方案应当将通用标准、高韧性的水印特征以及公众验证机制有机结合。通过深化我们对内容凭证的长期支持、达成 C2PA 标准合规、引入 SynthID 以及推出公众验证工具预览版,我们希望能为构建一个更具互操作性的内容溯源生态系统贡献力量。