惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

大猫的无限游戏
大猫的无限游戏
阮一峰的网络日志
阮一峰的网络日志
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
WordPress大学
WordPress大学
博客园 - 叶小钗
Hugging Face - Blog
Hugging Face - Blog
博客园 - 司徒正美
Last Week in AI
Last Week in AI
罗磊的独立博客
量子位
Jina AI
Jina AI
T
Tailwind CSS Blog
Apple Machine Learning Research
Apple Machine Learning Research
IT之家
IT之家
美团技术团队
雷峰网
雷峰网
爱范儿
爱范儿
S
SegmentFault 最新的问题
小众软件
小众软件
月光博客
月光博客
酷 壳 – CoolShell
酷 壳 – CoolShell
人人都是产品经理
人人都是产品经理
The Cloudflare Blog
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报

Hacker News: Front Page

SPICE simulation → oscilloscope → verification with Claude Code — Lucas Gerads Introducing Claude Opus 4.7 Qwen Studio The Future of Everything is Lies, I Guess: Where Do We Go From Here? GitHub - SeanFDZ/macmind: Single-layer transformer in HyperTalk for the classic Macintosh Show HN: Agent-cache – Multi-tier LLM/tool/session caching for Valkey and Redis Ancient DNA reveals pervasive directional selection across West Eurasia [pdf] AI cybersecurity is not proof of work Moving a large-scale metrics pipeline from StatsD to OpenTelemetry / Prometheus GitHub - Nightmare-Eclipse/RedSun: The Red Sun vulnerability repository GitHub - SethPyle376/hiraeth: Local AWS emulator focused on fast integration testing, with SQS support, SQLite-backed state, and a debug-friendly web UI. A Better Ludum Dare; Or, How to Ruin a Legacy GitHub - macOS26/Agent: Any AI, replaces Claude Code, Cursor, OpenClaw. Over 18 LLM providers (Claude, OpenAI, Gemini, Ollama, Zai, HF, Qwen) wired into a native Mac app that writes code, builds Xcode projects, bumps versions, manages git, automates Safari, use AppleScript, JS or Accessibility, extend Agent! w/ MCP Servers, run tasks from your iPhone via Messages. YouTube now lets you turn off Shorts I Made a Terminal Pager Burgers | マクドナルド公式 Commands — HackerNews CLI documentation ChatGPT for Excel PiCore - Raspberry Pi Port of Tiny Core Linux Live Nation illegally monopolized ticketing market, jury finds Google Broke Its Promise to Me. Now ICE Has My Data. Founding Engineer at Adaptional | Y Combinator CRISPR takes important step toward silencing Down syndrome’s extra chromosome GitHub - saffron-health/libretto: The AI toolkit for building reliable browser automations US v. Heppner (S.D.N.Y. 2026) no attorney-client privilege for AI chats [pdf] Unexpected €54k billing spike in 13 hours: Firebase browser key without API restrictions used for Gemini requests Fragments: April 14 Cal.com Goes Closed Source: Why AI Security Is Forcing Our Decision | Cal.com - Scheduling Software for Online Bookings Laravel raised money and now injects ads directly into your agent Codex Hacked a Samsung TV
推进内容溯源,构建更安全、更透明的 AI 生态
2026-05-19 · via Hacker News: Front Page

2026 年 7 月 31 日更新: 我们正将此项工作拓展至图像领域之外。现在,使用 OpenAI 工具(包括通过 ChatGPT 和 OpenAI API)生成的受支持音频,均已加入 SynthID 水印。我们的公开验证工具现在除了支持图像外,还允许对受支持的音频文件进行验证。此外,我们推出了用于验证的 API 访问权限,以便开发者和组织能够将内容溯源 (provenance check) 整合到各自的工作流中。总体而言,这些更新建立在下文详述的多层架构策略之上:通过结合 C2PA 等开放标准、SynthID 等持久的水印信号以及验证工具,让内容溯源在更多类型的 OpenAI 生成内容中变得易于检测和应用。

如今,人们每天都在使用 OpenAI 的工具来创作和编辑图像与音频,让日常沟通变得更具表现力、更实用、更触手可及。随着这些工具融入人们构建、想象和分享的方方面面,使用户能够理解并验证媒介的来源变得至关重要,这能让他们在解读信息时更有信心。内容溯源特征可以通过提供上下文,帮助人们了解内容的来源、创建或编辑的方式,以及它是否可信。

今天,我们正在通过一种多层级、生态驱动的模型来强化我们的内容溯源方案,以构建网络信任。我们正在通过遵循 C2PA 标准,让其他工具和平台更容易识别我们的溯源特征;通过与 Google 合作,为图像添加更具韧性、跨平台的 SynthID 数字水印;并向公众分享一款工具的预览版,供大家验证图片是否出自 OpenAI。

这些更新建立在我们此前工作的基础上:支持开放标准、让 OpenAI 生成的内容更容易被识别,并开展跨行业合作,以支持一个更具公信力的信息生态系统。

通过 C2PA 合规构建可信生态系统

自 2024 年起,OpenAI 就已深入参与溯源标准的制定与普及。彼时,我们开始为 DALL·E 3(在新窗口中打开) 生成的图像添加内容凭证 (Content Credential),随后又将其扩展至 ImageGen(在新窗口中打开)Sora(在新窗口中打开)。同时,我们也加入了内容溯源和真实性联盟 (C2PA) 的指导委员会,该联盟是一个推动内容溯源开放技术标准落地的跨行业组织。C2PA 的技术方案利用元数据和加密签名,确保关于某项媒介的信息能够安全地随内容本身一同传输。这些信息包含丰富的上下文,能够协助新闻工作者评估素材来源、帮助平台方做出合规决策,并让大众更清晰地理解他们在线上看到的内容。

多层级溯源方案:引入 Google SynthID 图像水印

C2PA 元数据是内容溯源的重要基石。它能帮助内容自带关于其来源、创建或编辑方式以及信息签名方的关键数据。然而,元数据并非万无一失。它可能会被移除,在上传和下载过程中丢失,或者因文件格式转换、尺寸调整及截图等操作而遭到破坏。

我们在这一领域已深耕许久。此前,我们已在 Sora 中使用可见水印,在 Voice Engine 中应用音频水印,并在部署过程中持续对准确性和可靠性进行测试与研究。

这两套系统相辅相成、互为表里。C2PA 有助于内容携带详尽的上下文信息;而当元数据未能留存时,SynthID 则能确保溯源特征依然存在。数字水印在经历截图等图像转换时往往更具耐受性,而元数据则能比单纯的水印提供更丰富的信息流。二者结合,使内容溯源方案比任何单一层级都更加坚韧。

特征检测与公众验证工具预览

即使有了值得信赖的元数据和能抵御绝大多数修改的数字水印,内容溯源特征的耐受性大幅提升,人们依然需要一种手段来检测这些特征。为此,我们现在推出一款公共验证工具的预览版。该工具通过检查上传的图片中是否包含内容凭证及 SynthID 等内容溯源特征,来帮助人们验证该图片是否由 ChatGPT、OpenAI API 或 Codex 生成。

我们认为,内容溯源应当变得更易于大众验证和解读。通过整合多源特征,我们的工具能够协助每个人解答“改内容是否由 AI 生成?”这一问题。该工具承袭了我们在 2024 年首次推出图像检测分类器研究预览版时所积累的经验,使用户不仅能够可靠地检测媒介中是否存在源自 OpenAI 的 SynthID 水印,还能在发现 C2PA 元数据时将其清晰地呈现出来。

OpenAI 网页展示了一张上传图片的验证结果,通过检测到的 SynthID 和内容凭证特征,确证该图片是由 OpenAI 工具生成的。

没有任何一种检测方法是万无一失的,因此在检测不到特征时,我们采取了审慎的态度。例如,如果系统未检测到任何元数据或水印,该工具不会对图片是否由 OpenAI 工具生成做出定性结论,因为内容溯源特征在某些情况下确实存在被清除的可能。

在发布初期,该工具的检测范围仅限于 OpenAI 生成的内容。在接下来的几个月中,我们的目标是支持跨行业的共同努力,以实现跨平台的内容验证。随着时间的推移,我们还期望支持更多人们在网络上可能接触到的内容类型。

展望未来

没有任何单一的内容溯源技术能够孤军奋战。我们坚信,最强有力的方案应当将通用标准、高韧性的水印特征以及公众验证机制有机结合。通过深化我们对内容凭证的长期支持、达成 C2PA 标准合规、引入 SynthID 以及推出公众验证工具预览版,我们希望能为构建一个更具互操作性的内容溯源生态系统贡献力量。