惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

V
Visual Studio Blog
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
G
Google Developers Blog
J
Java Code Geeks
爱范儿
爱范儿
Microsoft Azure Blog
Microsoft Azure Blog
美团技术团队
人人都是产品经理
人人都是产品经理
Martin Fowler
Martin Fowler
IT之家
IT之家
博客园_首页
B
Blog RSS Feed
Google DeepMind News
Google DeepMind News
B
Blog
U
Unit 42
Apple Machine Learning Research
Apple Machine Learning Research
L
LangChain Blog
Stack Overflow Blog
Stack Overflow Blog
罗磊的独立博客
N
Netflix TechBlog - Medium
T
Tailwind CSS Blog
博客园 - 聂微东
腾讯CDC
A
About on SuperTechFans

Hacker News

GitHub - SeanFDZ/macmind: Single-layer transformer in HyperTalk for the classic Macintosh Show HN: Agent-cache – Multi-tier LLM/tool/session caching for Valkey and Redis Bonsai 1-bit WebGPU - a Hugging Face Space by webml-community Moving a large-scale metrics pipeline from StatsD to OpenTelemetry / Prometheus GitHub - Nightmare-Eclipse/RedSun: The Red Sun vulnerability repository GitHub - SethPyle376/hiraeth: Local AWS emulator focused on fast integration testing, with SQS support, SQLite-backed state, and a debug-friendly web UI. GitHub - macOS26/Agent: Any AI, replaces Claude Code, Cursor, OpenClaw. Over 18 LLM providers (Claude, OpenAI, Gemini, Ollama, Zai, HF, Qwen) wired into a native Mac app that writes code, builds Xcode projects, bumps versions, manages git, automates Safari, use AppleScript, JS or Accessibility, extend Agent! w/ MCP Servers, run tasks from your iPhone via Messages. YouTube now lets you turn off Shorts I Made a Terminal Pager Burgers | マクドナルド公式 Commands — HackerNews CLI documentation ChatGPT for Excel PiCore - Raspberry Pi Port of Tiny Core Linux Live Nation illegally monopolized ticketing market, jury finds Google Broke Its Promise to Me. Now ICE Has My Data. Founding Engineer at Adaptional | Y Combinator CRISPR takes important step toward silencing Down syndrome’s extra chromosome GitHub - saffron-health/libretto: The AI toolkit for building reliable browser automations US v. Heppner (S.D.N.Y. 2026) no attorney-client privilege for AI chats [pdf] Retrofitting JIT Compilers into C Interpreters IPv6 – Google The Accursèd Alphabetical Clock Cybersecurity Looks Like Proof of Work Now Fragments: April 14 Cal.com Goes Closed Source: Why AI Security Is Forcing Our Decision | Cal.com - Scheduling Software for Online Bookings Laravel raised money and now injects ads directly into your agent When moving fast, talking is the first thing to break Too much Discussion of the XOR swap trick – Heather Cafe Introduction to Spherical Harmonics for Graphics Programmers The Grand Line
推进内容溯源,构建更安全、更透明的 AI 生态
2026-05-19 · via Hacker News

2026 年 7 月 31 日更新: 我们正将此项工作拓展至图像领域之外。现在,使用 OpenAI 工具(包括通过 ChatGPT 和 OpenAI API)生成的受支持音频,均已加入 SynthID 水印。我们的公开验证工具现在除了支持图像外,还允许对受支持的音频文件进行验证。此外,我们推出了用于验证的 API 访问权限,以便开发者和组织能够将内容溯源 (provenance check) 整合到各自的工作流中。总体而言,这些更新建立在下文详述的多层架构策略之上:通过结合 C2PA 等开放标准、SynthID 等持久的水印信号以及验证工具,让内容溯源在更多类型的 OpenAI 生成内容中变得易于检测和应用。

如今,人们每天都在使用 OpenAI 的工具来创作和编辑图像与音频,让日常沟通变得更具表现力、更实用、更触手可及。随着这些工具融入人们构建、想象和分享的方方面面,使用户能够理解并验证媒介的来源变得至关重要,这能让他们在解读信息时更有信心。内容溯源特征可以通过提供上下文,帮助人们了解内容的来源、创建或编辑的方式,以及它是否可信。

今天,我们正在通过一种多层级、生态驱动的模型来强化我们的内容溯源方案,以构建网络信任。我们正在通过遵循 C2PA 标准,让其他工具和平台更容易识别我们的溯源特征;通过与 Google 合作,为图像添加更具韧性、跨平台的 SynthID 数字水印;并向公众分享一款工具的预览版,供大家验证图片是否出自 OpenAI。

这些更新建立在我们此前工作的基础上:支持开放标准、让 OpenAI 生成的内容更容易被识别,并开展跨行业合作,以支持一个更具公信力的信息生态系统。

通过 C2PA 合规构建可信生态系统

自 2024 年起,OpenAI 就已深入参与溯源标准的制定与普及。彼时,我们开始为 DALL·E 3(在新窗口中打开) 生成的图像添加内容凭证 (Content Credential),随后又将其扩展至 ImageGen(在新窗口中打开)Sora(在新窗口中打开)。同时,我们也加入了内容溯源和真实性联盟 (C2PA) 的指导委员会,该联盟是一个推动内容溯源开放技术标准落地的跨行业组织。C2PA 的技术方案利用元数据和加密签名,确保关于某项媒介的信息能够安全地随内容本身一同传输。这些信息包含丰富的上下文,能够协助新闻工作者评估素材来源、帮助平台方做出合规决策,并让大众更清晰地理解他们在线上看到的内容。

多层级溯源方案:引入 Google SynthID 图像水印

C2PA 元数据是内容溯源的重要基石。它能帮助内容自带关于其来源、创建或编辑方式以及信息签名方的关键数据。然而,元数据并非万无一失。它可能会被移除,在上传和下载过程中丢失,或者因文件格式转换、尺寸调整及截图等操作而遭到破坏。

我们在这一领域已深耕许久。此前,我们已在 Sora 中使用可见水印,在 Voice Engine 中应用音频水印,并在部署过程中持续对准确性和可靠性进行测试与研究。

这两套系统相辅相成、互为表里。C2PA 有助于内容携带详尽的上下文信息;而当元数据未能留存时,SynthID 则能确保溯源特征依然存在。数字水印在经历截图等图像转换时往往更具耐受性,而元数据则能比单纯的水印提供更丰富的信息流。二者结合,使内容溯源方案比任何单一层级都更加坚韧。

特征检测与公众验证工具预览

即使有了值得信赖的元数据和能抵御绝大多数修改的数字水印,内容溯源特征的耐受性大幅提升,人们依然需要一种手段来检测这些特征。为此,我们现在推出一款公共验证工具的预览版。该工具通过检查上传的图片中是否包含内容凭证及 SynthID 等内容溯源特征,来帮助人们验证该图片是否由 ChatGPT、OpenAI API 或 Codex 生成。

我们认为,内容溯源应当变得更易于大众验证和解读。通过整合多源特征,我们的工具能够协助每个人解答“改内容是否由 AI 生成?”这一问题。该工具承袭了我们在 2024 年首次推出图像检测分类器研究预览版时所积累的经验,使用户不仅能够可靠地检测媒介中是否存在源自 OpenAI 的 SynthID 水印,还能在发现 C2PA 元数据时将其清晰地呈现出来。

OpenAI 网页展示了一张上传图片的验证结果,通过检测到的 SynthID 和内容凭证特征,确证该图片是由 OpenAI 工具生成的。

没有任何一种检测方法是万无一失的,因此在检测不到特征时,我们采取了审慎的态度。例如,如果系统未检测到任何元数据或水印,该工具不会对图片是否由 OpenAI 工具生成做出定性结论,因为内容溯源特征在某些情况下确实存在被清除的可能。

在发布初期,该工具的检测范围仅限于 OpenAI 生成的内容。在接下来的几个月中,我们的目标是支持跨行业的共同努力,以实现跨平台的内容验证。随着时间的推移,我们还期望支持更多人们在网络上可能接触到的内容类型。

展望未来

没有任何单一的内容溯源技术能够孤军奋战。我们坚信,最强有力的方案应当将通用标准、高韧性的水印特征以及公众验证机制有机结合。通过深化我们对内容凭证的长期支持、达成 C2PA 标准合规、引入 SynthID 以及推出公众验证工具预览版,我们希望能为构建一个更具互操作性的内容溯源生态系统贡献力量。